在2024世界百度大会上，百度创始人李彦宏带来了一系列引人瞩目的AI领域最新进展。他指出，过去两年大模型技术最显著的突破在于"幻觉"问题的基本解决，这标志着AI回答的准确性获得质的飞跃，使其从"一本正经地胡说八道"转变为可靠的智能助手。会上，李彦宏重点介绍了百度最新推出的检索增强文生图技术iRAG。这项技术创新性地整合了百度搜索平台积累的海量图片资源和先进的基础模型能力，能够生成超高真实度的图像。李彦宏表示，iRAG的整体效果已经远超传统文生图系统，成功消

​在2024年11月12日，百度世界大会在上海世博中心隆重开幕。此次大会涵盖了一场主论坛、四场分论坛以及超过三十节的人工智能公开课。百度创始人李彦宏在主论坛上发表了题为“应用来了”的演讲，介绍了百度在人工智能领域的最新技术突破和应用成果，并对未来的行业趋势进行了深入探讨。

近日，微软提交了一项专利申请，旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”，于去年向美国专利商标局（USPTO）递交，并于10月31日公开。这一提案的核心是为 AI 模型提供一种 “响应增强系统”（RAS），使其能够根据用户的查询自动提取更多信息，并检查其回答的 “有效性”。具体来说，响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息，该系统

AI 公司 DecartAI 与 Etched 最近联合推出了一款名为 Oasis 的世界模型，声称可以在“没有游戏引擎、没有逻辑、没有代码”的情况下，运行一款类似《我的世界》的游戏。然而，这款 AI 生成的“游戏”却引发了广泛的批评和争议。Oasis 的画面质量令人失望，其分辨率仅为360p，帧率更是低至20FPS，甚至不及任天堂64时代的游戏。更为严重的是，该 AI 模型存在显著的幻觉问题，导致游戏体验极不稳定。玩家无法进行复杂操作，甚至在简单的挖掘动作中，常常会被意外传送回地面。此外，游戏环境

在人工智能迅速发展的今天，AI “幻觉” 现象愈加频繁，给许多企业带来了不小的困扰。客户服务聊天机器人自信地描述不存在的产品，金融 AI 编造市场数据，医疗机器人则提供危险的医疗建议。这些问题不再是单纯的趣事，而是正在影响公司声誉与盈利的重大隐患。为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球首个自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。Patronus AI 的首席执行

迪士尼的研究团队最近推出了一种全新的图像压缩方法，利用开源的 Stable Diffusion V1.2模型，这种方法可以在比竞争对手更低的比特率下生成更真实的图像。这种新方法被称为 “编解码器”，尽管它比传统的 JPEG 和 AV1编解码器复杂得多，但其性能却令人惊叹。该研究表明，新方法在图像细节的恢复上表现得更为出色，同时所需的训练成本也大大降低。研究人员发现，量化误差（图像压缩中的核心过程）与噪声(扩散模型中的核心过程)非常相似，因此可以将传统量化图像视为原始图像的噪声

最近，一款由 OpenAI 的 Whisper 技术驱动的 AI 转录工具在医疗行业广受欢迎。许多医生和医疗机构都在使用这个工具来记录和总结与患者的会面。根据 ABC 新闻的报道，研究人员却发现这款工具在某些情况下会出现 “幻觉” 现象，有时甚至会完全编造内容。这款由名为 Nabla 的公司开发的转录工具，已经成功转录了超过700万次医学对话，目前有超过3万名临床医生和40个健康系统在使用它。尽管如此，Nabla 公司也意识到了 Whisper 会产生幻觉的可能性，并表示正在努力解决这个问题。一组来自康

大型语言模型（LLM）的横空出世，尤其是ChatGPT等应用的普及，彻底改变了人机交互的方式。 这些模型能够生成连贯且全面的文本，令人印象深刻。然而，尽管能力强大，LLM却容易产生“幻觉”，即生成看似真实但实际上是虚构、无意义或与提示不符的内容。哈佛大学的研究人员对LLM“幻觉”现象进行了深入研究，发现其根源在于LLM的工作原理。 LLM通过对海量文本数据进行机器学习来构建概率模型，并根据词语共现的概率来预测下一个词语。 换句话说，LLM并非真正理解语言的含义，而是根

微软在人工智能领域的发展轨迹正经历一次显著的转变。曾经雄心勃勃地布局自研大模型，如今却将重心转向了与OpenAI的合作，并推出了全新的“校正”功能，旨在解决AI生成内容的“幻觉”问题。从自研到借力:微软AI战略的演变微软最初在生成式AI（GenAI）领域投入了大量资源，希望打造出与OpenAI的GPT系列模型相媲美甚至超越的AI模型。然而，在漫长的研发过程中，微软遇到了瓶颈，自研模型的进展并不如预期。为了打破僵局，微软转向了“蒸馏”技术，即利用OpenAI的模型生成大量高质量

近日，谷歌宣布推出新的开源 AI 模型 DataGemma，旨在解决大语言模型（LLM）在处理统计数据时常出现的 “幻觉” 问题。这种幻觉现象让模型在回答有关数字和统计的问题时，可能会提供不准确的答案。DataGemma 模型的推出，标志着谷歌在 AI 领域的一次重要进展。图源备注：图片由AI生成，图片授权服务商Midjourney减少统计查询时的幻觉DataGemma 由两种不同的方法构成，旨在提升回答用户问题时的准确性。这些模型基于谷歌的数据共享平台 Data Commons 的海量真实世界数据，后者拥有超过2400亿个数

康奈尔大学等机构对GPT-4o、Claude和Gemini等生成式AI模型进行幻觉基准测试，发现这些模型生成无幻觉文本的比例仅约35%，显示AI可靠性仍有提升空间。研究通过法律、健康、历史等主题的权威来源进行事实核查，设计包含维基百科未涵盖内容的问题集，结果显示OpenAI模型整体表现最佳，但与GPT-3.5相比进步有限。研究指出，模型大小与幻觉频率无关，且即使是能在线搜索的模型也难以解决非维基百科问题，反映出维基百科对模型影响深远。研究者建议增加模型的拒答频率，使其仅回答部分问题，成为最“诚实”的模型。此外，赵文婷呼吁制定相关政策，确保人类专家参与验证AI生成信息的过程，以减轻幻觉问题并提升信息可靠性。

两篇论文揭示生成式AI内容可能被视为“胡说八道”，强调其对准确性的漠视对公众服务者构成挑战。生成式AI产出的错误信息不同于故意欺骗的谎言，论文主张使用“胡说八道”这一术语更为准确，有助于提升公众对科技的理解。目前，AI法律法规尚不完善，无法有效防止这类错误信息带来的危害。作者建议引入类似于出版领域的法规，强调避免可能造成社会危害的“随意发言”，确保真理不是多数意见的产物，呼吁加强对AI错误信息的规范与监管。

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

在这个信息爆炸的时代，内容创作者们可谓是忙得不可开交。据调查显示，大多数创作者每周要花超过20小时来为自己的小天地生产新内容。这样一来，留给他们与粉丝互动的时间就少之又少了。但是，Meta公司的掌门人马克·扎克伯格却认为，人工智能（AI）可能会成为解决这个问题的"救命稻草"。

虽然像 ChatGPT、Claude 和 Gemini 这样的大型语言模型令人印象深刻，但它们都有一个共同的大问题:经常会产生幻觉。这是人工智能领域的一个严重问题，甚至苹果也对未来苹果智能（Apple Intelligence）如何处理幻觉表示担忧。幸运的是，一组研究人员现在开发出了一种 AI 幻觉检测器，可以判断 AI 是否虚构内容。

["Dictionary.com评选“幻觉”为2023年度词汇，突显人工智能广泛应用。","搜索数据显示，“幻觉”查找量增加45%，AI相关词汇总体同比增长62%。","谷歌CEO Sundar Pichai指出AI存在“幻觉问题”尚未解决。","词源自拉丁语，突显人工智能对社会变革的持续影响。"]

["Galileo Lab 推出新的指标，帮助改进生成 AI 的准确性","OpenAI GPT-4 在基本问答任务中有 23% 的幻觉倾向","Galileo Labs 的新指标包括正确性和上下文一致性","这些新工具可帮助企业在 AI 实现中测试和减轻幻觉问题"]

["OpenAI GPT-4在Vectara排行榜上脱颖而出，文档摘要中仅有3%的幻觉率，准确率达到97%。","Vectara评选结果显示，GPT-4Turbo和GPT-4表现最佳，GPT-3.5Turbo居次，非OpenAI模型中Meta Llama最高。","Vectara发布开源模型，可检查语言模型幻觉率，提高生成式AI系统可信度。","谷歌模型在排行榜中表现一般，Google Palm2的幻觉率高达27.2%。"]

["剑桥词典宣布2023年度词汇为“幻觉”，AI技术重新定义了这一概念。","人工智能工具如ChatGPT引起了强烈兴趣，但也带来了对AI生成文本可靠性的质疑。","AI“幻觉”在现实中产生影响，涉及虚构法律案例等实际情境。","剑桥大学的AI伦理学家指出AI“幻觉”将人工智能拟人化。"]

["Meta旗下Galactica模型发布仅三天即因幻觉问题下线，LeCun表示遗憾。","Galactica被认为是大型语言模型早期尝试，对Meta后续项目有积极影响。","模型第一作者Ross Taylor承认发布时未充分检查基础模型，但仍强调研究价值。","Meta公司AI研究副总裁Joelle Pineau强调Galactica是研究项目非产品。","Galactica下线引起Yann LeCun等人关注，LeCun警告过度强调AI道德可能适得其反。"]