在展示了其新AI视频生成模型Sora的惊人超写实演示几天后,OpenAI遭遇了重大挫折。
2024年2月20日,ChatGPT开始输出不连贯和荒谬的内容,引发用户在X(前Twitter)上表达不满。一些用户分享了ChatGPT的输出,荒唐地混合了英语和西班牙语,形成了难以理解的句子,包含虚构的单词和重复的短语,完全偏离了用户的提示。
一位敏锐的用户将这些随机的单词串比作杰夫·范德梅尔2014年小说《毁灭》中令人不安的外星涂鸦,这种比较引起了读者的共鸣,因为大家感受到一种令人毛骨悚然的异样智能感。有些用户幽默地推测可能出现了“机器人起义”,如同《终结者》和《黑客帝国》等科幻作品中的情节,但其他人则将这些现象视为简单的错误。许多人警告称,此类错误挑战了生成型AI在写作和编程任务中的可信度。
到2024年2月20日下午3:40(太平洋标准时间),OpenAI在其公共状态仪表板上承认了这一问题。不久后的3:47,该公司表示已识别问题并正在积极解决。到近下午5点时,他们确认正在持续监测这一情况。
第二天,经过验证的ChatGPT账号在X上安抚用户:“昨天有点失控,但现在应该恢复正常!”随后,ChatGPT账号分享了OpenAI网站上的总结更新,解释称“用户体验优化引入了一个影响模型语言处理的错误”,但确认已经实施了修复。
尽管该事件迅速得到解决,但仍引发了关于ChatGPT及其他OpenAI产品(如GPT-4和GPT-3.5)在交通、医疗和工程等关键任务中的可靠性和完整性的担忧。
一个棘手的问题依然存在:未来如何防止类似问题的发生?