近年来，视觉大模型（Large Vision Language Models， LVLMs）在图像理解和跨模态任务中展现出非凡的能力，然而随之而来的 “幻觉现象” 问题也日益突出。为了应对这一挑战，淘天集团的未来生活实验室团队提出了一种名为 “令牌偏好优化”(Token Preference Optimization，简称 TPO)的新方法，并引入了一种自我校准的视觉锚定奖励机制。TPO 的最大创新在于它实现了自动化的令牌级奖励信号。这一方法能够自动识别偏好数据中的视觉锚定令牌，避免了人工细粒度标注的繁琐，同时在训练过程中为每个令

在人工智能领域，大语言模型的"幻觉问题"一直是困扰业界的关键挑战。近日，一项基于HHEM-2.1-Open评估体系的测试结果显示，智谱AI旗下的GLM-4-9B模型交出了一份令人瞩目的成绩单。测试数据显示，在参与评估的85个大语言模型中，GLM-4-9B以98.7%的事实一致性率和100%的回答率摘得桂冠。特别值得关注的是，该模型的幻觉率仅为1.3%，这一成绩不仅位居榜首，更是超越了行业巨头OpenAI的GPT系列和Google的Gemini系列模型。图源备注：图片由AI生成，图片授权服务商Midjourney这一突破性成果标志着中国大

在2024世界百度大会上，百度创始人李彦宏带来了一系列引人瞩目的AI领域最新进展。他指出，过去两年大模型技术最显著的突破在于"幻觉"问题的基本解决，这标志着AI回答的准确性获得质的飞跃，使其从"一本正经地胡说八道"转变为可靠的智能助手。会上，李彦宏重点介绍了百度最新推出的检索增强文生图技术iRAG。这项技术创新性地整合了百度搜索平台积累的海量图片资源和先进的基础模型能力，能够生成超高真实度的图像。李彦宏表示，iRAG的整体效果已经远超传统文生图系统，成功消

​在2024年11月12日，百度世界大会在上海世博中心隆重开幕。此次大会涵盖了一场主论坛、四场分论坛以及超过三十节的人工智能公开课。百度创始人李彦宏在主论坛上发表了题为“应用来了”的演讲，介绍了百度在人工智能领域的最新技术突破和应用成果，并对未来的行业趋势进行了深入探讨。

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

在这个信息爆炸的时代，内容创作者们可谓是忙得不可开交。据调查显示，大多数创作者每周要花超过20小时来为自己的小天地生产新内容。这样一来，留给他们与粉丝互动的时间就少之又少了。但是，Meta公司的掌门人马克·扎克伯格却认为，人工智能（AI）可能会成为解决这个问题的"救命稻草"。

["Meta旗下Galactica模型发布仅三天即因幻觉问题下线，LeCun表示遗憾。","Galactica被认为是大型语言模型早期尝试，对Meta后续项目有积极影响。","模型第一作者Ross Taylor承认发布时未充分检查基础模型，但仍强调研究价值。","Meta公司AI研究副总裁Joelle Pineau强调Galactica是研究项目非产品。","Galactica下线引起Yann LeCun等人关注，LeCun警告过度强调AI道德可能适得其反。"]

["大模型幻觉主要分为与输入、上下文及事实冲突的三类。","相比传统模型,大模型幻觉评估面临数据规模大、通用性强、不易察觉等新难题。 ","缓解幻觉可从预训练、微调、强化学习等方面入手,但仍有可靠评估等挑战。","总体来说,大模型幻觉的评估与缓解仍有待深入研究。","以促进大模型的实际应用。"]