近年来，视觉大模型（Large Vision Language Models， LVLMs）在图像理解和跨模态任务中展现出非凡的能力，然而随之而来的 “幻觉现象” 问题也日益突出。为了应对这一挑战，淘天集团的未来生活实验室团队提出了一种名为 “令牌偏好优化”(Token Preference Optimization，简称 TPO)的新方法，并引入了一种自我校准的视觉锚定奖励机制。TPO 的最大创新在于它实现了自动化的令牌级奖励信号。这一方法能够自动识别偏好数据中的视觉锚定令牌，避免了人工细粒度标注的繁琐，同时在训练过程中为每个令

在人工智能领域，大语言模型的"幻觉问题"一直是困扰业界的关键挑战。近日，一项基于HHEM-2.1-Open评估体系的测试结果显示，智谱AI旗下的GLM-4-9B模型交出了一份令人瞩目的成绩单。测试数据显示，在参与评估的85个大语言模型中，GLM-4-9B以98.7%的事实一致性率和100%的回答率摘得桂冠。特别值得关注的是，该模型的幻觉率仅为1.3%，这一成绩不仅位居榜首，更是超越了行业巨头OpenAI的GPT系列和Google的Gemini系列模型。图源备注：图片由AI生成，图片授权服务商Midjourney这一突破性成果标志着中国大

随着企业越来越多地应用大型语言模型（LLMs），如何提升模型的知识准确性并减少幻觉现象，成为了一项重要挑战。Meta AI 的研究人员在一篇新论文中提出了 “可扩展记忆层”，或许能够为这一问题提供解决方案。可扩展记忆层的核心思想是在不增加推理时计算资源的情况下，向 LLMs 中添加更多参数，从而提升其学习能力。这种架构适用于需要储存大量事实知识但又希望保持推理速度的应用场景。传统的语言模型使用 “密集层” 来编码大量信息。在密集层中，所有参数在推理时几乎都是

一个被广泛视为人工智能缺陷的特性——"幻觉"，竟成为科学突破的关键。据《财富》杂志报道，2024年诺贝尔化学奖得主之一的大卫·贝克教授，正是借助AI模型的"幻觉"特性实现了重大科研突破。来自华盛顿大学的贝克教授是今年三位诺贝尔化学奖得主中唯一的美国科学家。他利用计算机软件成功发明了新型蛋白质，这一成就最终为他赢得了这一殊荣。图源备注:图片由AI生成，图片授权服务商Midjourney通常情况下，AI模型的"幻觉"——即生成虚假或不准确信息的倾向——被认为是一个严重的

在2024世界百度大会上，百度创始人李彦宏带来了一系列引人瞩目的AI领域最新进展。他指出，过去两年大模型技术最显著的突破在于"幻觉"问题的基本解决，这标志着AI回答的准确性获得质的飞跃，使其从"一本正经地胡说八道"转变为可靠的智能助手。会上，李彦宏重点介绍了百度最新推出的检索增强文生图技术iRAG。这项技术创新性地整合了百度搜索平台积累的海量图片资源和先进的基础模型能力，能够生成超高真实度的图像。李彦宏表示，iRAG的整体效果已经远超传统文生图系统，成功消

​在2024年11月12日，百度世界大会在上海世博中心隆重开幕。此次大会涵盖了一场主论坛、四场分论坛以及超过三十节的人工智能公开课。百度创始人李彦宏在主论坛上发表了题为“应用来了”的演讲，介绍了百度在人工智能领域的最新技术突破和应用成果，并对未来的行业趋势进行了深入探讨。

近日，微软提交了一项专利申请，旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”，于去年向美国专利商标局（USPTO）递交，并于10月31日公开。这一提案的核心是为 AI 模型提供一种 “响应增强系统”（RAS），使其能够根据用户的查询自动提取更多信息，并检查其回答的 “有效性”。具体来说，响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息，该系统

AI 公司 DecartAI 与 Etched 最近联合推出了一款名为 Oasis 的世界模型，声称可以在“没有游戏引擎、没有逻辑、没有代码”的情况下，运行一款类似《我的世界》的游戏。然而，这款 AI 生成的“游戏”却引发了广泛的批评和争议。Oasis 的画面质量令人失望，其分辨率仅为360p，帧率更是低至20FPS，甚至不及任天堂64时代的游戏。更为严重的是，该 AI 模型存在显著的幻觉问题，导致游戏体验极不稳定。玩家无法进行复杂操作，甚至在简单的挖掘动作中，常常会被意外传送回地面。此外，游戏环境

在人工智能迅速发展的今天，AI “幻觉” 现象愈加频繁，给许多企业带来了不小的困扰。客户服务聊天机器人自信地描述不存在的产品，金融 AI 编造市场数据，医疗机器人则提供危险的医疗建议。这些问题不再是单纯的趣事，而是正在影响公司声誉与盈利的重大隐患。为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球首个自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。Patronus AI 的首席执行

迪士尼的研究团队最近推出了一种全新的图像压缩方法，利用开源的 Stable Diffusion V1.2模型，这种方法可以在比竞争对手更低的比特率下生成更真实的图像。这种新方法被称为 “编解码器”，尽管它比传统的 JPEG 和 AV1编解码器复杂得多，但其性能却令人惊叹。该研究表明，新方法在图像细节的恢复上表现得更为出色，同时所需的训练成本也大大降低。研究人员发现，量化误差（图像压缩中的核心过程）与噪声(扩散模型中的核心过程)非常相似，因此可以将传统量化图像视为原始图像的噪声

最近，一款由 OpenAI 的 Whisper 技术驱动的 AI 转录工具在医疗行业广受欢迎。许多医生和医疗机构都在使用这个工具来记录和总结与患者的会面。根据 ABC 新闻的报道，研究人员却发现这款工具在某些情况下会出现 “幻觉” 现象，有时甚至会完全编造内容。这款由名为 Nabla 的公司开发的转录工具，已经成功转录了超过700万次医学对话，目前有超过3万名临床医生和40个健康系统在使用它。尽管如此，Nabla 公司也意识到了 Whisper 会产生幻觉的可能性，并表示正在努力解决这个问题。一组来自康

大型语言模型（LLM）的横空出世，尤其是ChatGPT等应用的普及，彻底改变了人机交互的方式。 这些模型能够生成连贯且全面的文本，令人印象深刻。然而，尽管能力强大，LLM却容易产生“幻觉”，即生成看似真实但实际上是虚构、无意义或与提示不符的内容。哈佛大学的研究人员对LLM“幻觉”现象进行了深入研究，发现其根源在于LLM的工作原理。 LLM通过对海量文本数据进行机器学习来构建概率模型，并根据词语共现的概率来预测下一个词语。 换句话说，LLM并非真正理解语言的含义，而是根

微软在人工智能领域的发展轨迹正经历一次显著的转变。曾经雄心勃勃地布局自研大模型，如今却将重心转向了与OpenAI的合作，并推出了全新的“校正”功能，旨在解决AI生成内容的“幻觉”问题。从自研到借力:微软AI战略的演变微软最初在生成式AI（GenAI）领域投入了大量资源，希望打造出与OpenAI的GPT系列模型相媲美甚至超越的AI模型。然而，在漫长的研发过程中，微软遇到了瓶颈，自研模型的进展并不如预期。为了打破僵局，微软转向了“蒸馏”技术，即利用OpenAI的模型生成大量高质量

近日，谷歌宣布推出新的开源 AI 模型 DataGemma，旨在解决大语言模型（LLM）在处理统计数据时常出现的 “幻觉” 问题。这种幻觉现象让模型在回答有关数字和统计的问题时，可能会提供不准确的答案。DataGemma 模型的推出，标志着谷歌在 AI 领域的一次重要进展。图源备注：图片由AI生成，图片授权服务商Midjourney减少统计查询时的幻觉DataGemma 由两种不同的方法构成，旨在提升回答用户问题时的准确性。这些模型基于谷歌的数据共享平台 Data Commons 的海量真实世界数据，后者拥有超过2400亿个数

康奈尔大学等机构对GPT-4o、Claude和Gemini等生成式AI模型进行幻觉基准测试，发现这些模型生成无幻觉文本的比例仅约35%，显示AI可靠性仍有提升空间。研究通过法律、健康、历史等主题的权威来源进行事实核查，设计包含维基百科未涵盖内容的问题集，结果显示OpenAI模型整体表现最佳，但与GPT-3.5相比进步有限。研究指出，模型大小与幻觉频率无关，且即使是能在线搜索的模型也难以解决非维基百科问题，反映出维基百科对模型影响深远。研究者建议增加模型的拒答频率，使其仅回答部分问题，成为最“诚实”的模型。此外，赵文婷呼吁制定相关政策，确保人类专家参与验证AI生成信息的过程，以减轻幻觉问题并提升信息可靠性。

两篇论文揭示生成式AI内容可能被视为“胡说八道”，强调其对准确性的漠视对公众服务者构成挑战。生成式AI产出的错误信息不同于故意欺骗的谎言，论文主张使用“胡说八道”这一术语更为准确，有助于提升公众对科技的理解。目前，AI法律法规尚不完善，无法有效防止这类错误信息带来的危害。作者建议引入类似于出版领域的法规，强调避免可能造成社会危害的“随意发言”，确保真理不是多数意见的产物，呼吁加强对AI错误信息的规范与监管。

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

在这个信息爆炸的时代，内容创作者们可谓是忙得不可开交。据调查显示，大多数创作者每周要花超过20小时来为自己的小天地生产新内容。这样一来，留给他们与粉丝互动的时间就少之又少了。但是，Meta公司的掌门人马克·扎克伯格却认为，人工智能（AI）可能会成为解决这个问题的"救命稻草"。

虽然像 ChatGPT、Claude 和 Gemini 这样的大型语言模型令人印象深刻，但它们都有一个共同的大问题:经常会产生幻觉。这是人工智能领域的一个严重问题，甚至苹果也对未来苹果智能（Apple Intelligence）如何处理幻觉表示担忧。幸运的是，一组研究人员现在开发出了一种 AI 幻觉检测器，可以判断 AI 是否虚构内容。

["Dictionary.com评选“幻觉”为2023年度词汇，突显人工智能广泛应用。","搜索数据显示，“幻觉”查找量增加45%，AI相关词汇总体同比增长62%。","谷歌CEO Sundar Pichai指出AI存在“幻觉问题”尚未解决。","词源自拉丁语，突显人工智能对社会变革的持续影响。"]