在人工智能迅速发展的今天，AI “幻觉” 现象愈加频繁，给许多企业带来了不小的困扰。客户服务聊天机器人自信地描述不存在的产品，金融 AI 编造市场数据，医疗机器人则提供危险的医疗建议。这些问题不再是单纯的趣事，而是正在影响公司声誉与盈利的重大隐患。为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球首个自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。Patronus AI 的首席执行

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

["专家担忧热门AI平台如ChatGPT存在的幻觉现象。","AI幻觉是信息看似正确实际不准确的现象。","ChatGPT被指出提供虚假信息，引发科学家关注。"]