AI 公司 DecartAI 与 Etched 最近联合推出了一款名为 Oasis 的世界模型，声称可以在“没有游戏引擎、没有逻辑、没有代码”的情况下，运行一款类似《我的世界》的游戏。然而，这款 AI 生成的“游戏”却引发了广泛的批评和争议。Oasis 的画面质量令人失望，其分辨率仅为360p，帧率更是低至20FPS，甚至不及任天堂64时代的游戏。更为严重的是，该 AI 模型存在显著的幻觉问题，导致游戏体验极不稳定。玩家无法进行复杂操作，甚至在简单的挖掘动作中，常常会被意外传送回地面。此外，游戏环境

在人工智能迅速发展的今天，AI “幻觉” 现象愈加频繁，给许多企业带来了不小的困扰。客户服务聊天机器人自信地描述不存在的产品，金融 AI 编造市场数据，医疗机器人则提供危险的医疗建议。这些问题不再是单纯的趣事，而是正在影响公司声誉与盈利的重大隐患。为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球首个自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。Patronus AI 的首席执行

迪士尼的研究团队最近推出了一种全新的图像压缩方法，利用开源的 Stable Diffusion V1.2模型，这种方法可以在比竞争对手更低的比特率下生成更真实的图像。这种新方法被称为 “编解码器”，尽管它比传统的 JPEG 和 AV1编解码器复杂得多，但其性能却令人惊叹。该研究表明，新方法在图像细节的恢复上表现得更为出色，同时所需的训练成本也大大降低。研究人员发现，量化误差（图像压缩中的核心过程）与噪声(扩散模型中的核心过程)非常相似，因此可以将传统量化图像视为原始图像的噪声

最近，一款由 OpenAI 的 Whisper 技术驱动的 AI 转录工具在医疗行业广受欢迎。许多医生和医疗机构都在使用这个工具来记录和总结与患者的会面。根据 ABC 新闻的报道，研究人员却发现这款工具在某些情况下会出现 “幻觉” 现象，有时甚至会完全编造内容。这款由名为 Nabla 的公司开发的转录工具，已经成功转录了超过700万次医学对话，目前有超过3万名临床医生和40个健康系统在使用它。尽管如此，Nabla 公司也意识到了 Whisper 会产生幻觉的可能性，并表示正在努力解决这个问题。一组来自康

大型语言模型（LLM）的横空出世，尤其是ChatGPT等应用的普及，彻底改变了人机交互的方式。 这些模型能够生成连贯且全面的文本，令人印象深刻。然而，尽管能力强大，LLM却容易产生“幻觉”，即生成看似真实但实际上是虚构、无意义或与提示不符的内容。哈佛大学的研究人员对LLM“幻觉”现象进行了深入研究，发现其根源在于LLM的工作原理。 LLM通过对海量文本数据进行机器学习来构建概率模型，并根据词语共现的概率来预测下一个词语。 换句话说，LLM并非真正理解语言的含义，而是根

微软在人工智能领域的发展轨迹正经历一次显著的转变。曾经雄心勃勃地布局自研大模型，如今却将重心转向了与OpenAI的合作，并推出了全新的“校正”功能，旨在解决AI生成内容的“幻觉”问题。从自研到借力:微软AI战略的演变微软最初在生成式AI（GenAI）领域投入了大量资源，希望打造出与OpenAI的GPT系列模型相媲美甚至超越的AI模型。然而，在漫长的研发过程中，微软遇到了瓶颈，自研模型的进展并不如预期。为了打破僵局，微软转向了“蒸馏”技术，即利用OpenAI的模型生成大量高质量

近日，谷歌宣布推出新的开源 AI 模型 DataGemma，旨在解决大语言模型（LLM）在处理统计数据时常出现的 “幻觉” 问题。这种幻觉现象让模型在回答有关数字和统计的问题时，可能会提供不准确的答案。DataGemma 模型的推出，标志着谷歌在 AI 领域的一次重要进展。图源备注：图片由AI生成，图片授权服务商Midjourney减少统计查询时的幻觉DataGemma 由两种不同的方法构成，旨在提升回答用户问题时的准确性。这些模型基于谷歌的数据共享平台 Data Commons 的海量真实世界数据，后者拥有超过2400亿个数

康奈尔大学等机构对GPT-4o、Claude和Gemini等生成式AI模型进行幻觉基准测试，发现这些模型生成无幻觉文本的比例仅约35%，显示AI可靠性仍有提升空间。研究通过法律、健康、历史等主题的权威来源进行事实核查，设计包含维基百科未涵盖内容的问题集，结果显示OpenAI模型整体表现最佳，但与GPT-3.5相比进步有限。研究指出，模型大小与幻觉频率无关，且即使是能在线搜索的模型也难以解决非维基百科问题，反映出维基百科对模型影响深远。研究者建议增加模型的拒答频率，使其仅回答部分问题，成为最“诚实”的模型。此外，赵文婷呼吁制定相关政策，确保人类专家参与验证AI生成信息的过程，以减轻幻觉问题并提升信息可靠性。

两篇论文揭示生成式AI内容可能被视为“胡说八道”，强调其对准确性的漠视对公众服务者构成挑战。生成式AI产出的错误信息不同于故意欺骗的谎言，论文主张使用“胡说八道”这一术语更为准确，有助于提升公众对科技的理解。目前，AI法律法规尚不完善，无法有效防止这类错误信息带来的危害。作者建议引入类似于出版领域的法规，强调避免可能造成社会危害的“随意发言”，确保真理不是多数意见的产物，呼吁加强对AI错误信息的规范与监管。

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

在这个信息爆炸的时代，内容创作者们可谓是忙得不可开交。据调查显示，大多数创作者每周要花超过20小时来为自己的小天地生产新内容。这样一来，留给他们与粉丝互动的时间就少之又少了。但是，Meta公司的掌门人马克·扎克伯格却认为，人工智能（AI）可能会成为解决这个问题的"救命稻草"。

虽然像 ChatGPT、Claude 和 Gemini 这样的大型语言模型令人印象深刻，但它们都有一个共同的大问题:经常会产生幻觉。这是人工智能领域的一个严重问题，甚至苹果也对未来苹果智能（Apple Intelligence）如何处理幻觉表示担忧。幸运的是，一组研究人员现在开发出了一种 AI 幻觉检测器，可以判断 AI 是否虚构内容。

["Dictionary.com评选“幻觉”为2023年度词汇，突显人工智能广泛应用。","搜索数据显示，“幻觉”查找量增加45%，AI相关词汇总体同比增长62%。","谷歌CEO Sundar Pichai指出AI存在“幻觉问题”尚未解决。","词源自拉丁语，突显人工智能对社会变革的持续影响。"]

["Galileo Lab 推出新的指标，帮助改进生成 AI 的准确性","OpenAI GPT-4 在基本问答任务中有 23% 的幻觉倾向","Galileo Labs 的新指标包括正确性和上下文一致性","这些新工具可帮助企业在 AI 实现中测试和减轻幻觉问题"]

["OpenAI GPT-4在Vectara排行榜上脱颖而出，文档摘要中仅有3%的幻觉率，准确率达到97%。","Vectara评选结果显示，GPT-4Turbo和GPT-4表现最佳，GPT-3.5Turbo居次，非OpenAI模型中Meta Llama最高。","Vectara发布开源模型，可检查语言模型幻觉率，提高生成式AI系统可信度。","谷歌模型在排行榜中表现一般，Google Palm2的幻觉率高达27.2%。"]

["剑桥词典宣布2023年度词汇为“幻觉”，AI技术重新定义了这一概念。","人工智能工具如ChatGPT引起了强烈兴趣，但也带来了对AI生成文本可靠性的质疑。","AI“幻觉”在现实中产生影响，涉及虚构法律案例等实际情境。","剑桥大学的AI伦理学家指出AI“幻觉”将人工智能拟人化。"]

["Meta旗下Galactica模型发布仅三天即因幻觉问题下线，LeCun表示遗憾。","Galactica被认为是大型语言模型早期尝试，对Meta后续项目有积极影响。","模型第一作者Ross Taylor承认发布时未充分检查基础模型，但仍强调研究价值。","Meta公司AI研究副总裁Joelle Pineau强调Galactica是研究项目非产品。","Galactica下线引起Yann LeCun等人关注，LeCun警告过度强调AI道德可能适得其反。"]

["LexisNexis去年5月首次透露推出Lexis+ AI计划,利用大型语言模型回答法律问题。","LexisNexis取消Lexis+ AI的限制,使其对美国客户普遍可用。","Lexis+ AI提供可信赖的结果,具有「无幻觉」法律引文链接。","Lexis+ AI可进行对话式搜索、文档草拟、案件摘要以及文档分析等。","LexisNexis称Lexis+ AI可提高法律专业人士的速度、生产力和工作质量。"]

["专家担忧热门AI平台如ChatGPT存在的幻觉现象。","AI幻觉是信息看似正确实际不准确的现象。","ChatGPT被指出提供虚假信息，引发科学家关注。"]

["富士通宣布推出两项新的人工智能信任技术，旨在提高对话型人工智能模型的可靠性，包括检测幻觉和对抗性攻击的技术。","这些技术将整合到富士通的人工智能平台“Kozuchi”中，旨在为企业和个人用户提供工具，评估对话型人工智能回复的可靠性，增强人工智能的安全性。","第一项技术旨在高度精确地检测对话型人工智能回复中的幻觉，解决了回复中可能存在的误导问题。","第二项技术用于检测对话型人工智能回复中的植入网络钓鱼网址，以提高回复的安全性。"]