ChatGPT "失控"，出现了狂野的幻觉，但OpenAI表示已修复

尽管人们普遍认为生成式人工智能模型容易出现幻觉——也就是说，编造事实和其他信息，与现实相抵触——但OpenAI的旗舰产品ChatGPT在周二遭遇了一场相当普遍的、大多数令人发笑的不连贯。

“ChatGPT现在似乎有点失控，没有人能解释为什么，”推特用户肖恩·麦奎尔（Sean McGuire）在周二晚上写道，并在一条病毒式推文中收集了一些更奇怪的例子。

“被照片设置的波浪解雇，像一个奶奶深深地嵌入产品之中，就像一个管理员颜色的墨西哥斗篷下面一样，”一条含糊不清、错别字连篇的回复写道。用户回复说，“你中风了吗？”

使用ChatGPT 4.0，麦奎尔分享了一些截图，其中包括ChatGPT甚至承认了自己的错误：“似乎我之前消息中的技术小故障导致它重复并偏离了一个无意义的部分，”这个聊天机器人说道。

Reddit上的r/ChatGPT子论坛的用户也发布了ChatGPT发出的胡言乱语的截图。

“知道是什么原因导致了这个吗？”Reddit用户u/JustSquiggles 发帖说道，分享了当他们询问ChatGPT“overgrown”的同义词时发生的事情。聊天机器人回复了一个循环，“‘overgrown’的同义词是‘overgrown’是‘overgrown’是”，重复了30多次才停下来。

在另一个例子中，Reddit用户u/toreachtheapex展示了ChatGPT 的回复是一个“and it is”的循环，直到回复栏被填满。用户需要选择“继续生成”或开始一个新的对话。

据Reddit用户u/Mr_Akihiro称，这个问题不仅限于文本回复。当他们提示ChatGPT生成一张“一只狗坐在田野上”的图片时，ChatGPT图像生成器却创建了一张猫坐在一个看起来像是一幢房子和一片谷物田之间的分割图像。

这个问题如此普遍，以至于在美国东部时间下午6:30，OpenAI开始调查此事。“我们正在调查ChatGPT出现意外回复的报告，”OpenAI的状态页面上写道。

到美国东部时间下午6:47，OpenAI表示已经确定了问题，并正在努力解决。

“问题已经被确定，并正在得到解决，”OpenAI的状态报告写道，并补充说支持团队将继续监控情况。

最后，在周三上午11:14的网络更新中，ChatGPT恢复到了“正常运行”。

这次暂时的故障提醒了人工智能工具的用户，支撑这些工具的模型可能会在没有通知的情况下发生变化，使得一个看似可靠的写作伙伴在一天之内变成了疯狂的破坏者。

使用ChatGPT等大型语言模型（LLMs）生成的幻觉被归类为事实性和忠实性两种类型。事实性幻觉违背了现实世界的事实，比如命名美国第一任总统。

忠实性幻觉偏离了用户的指令或上下文，导致在新闻或历史等领域出现不准确性，就像美国刑事辩护律师兼法学教授乔纳森·特利的案例中，ChatGPT在2023年4月错误地指控他性侵犯。