近日，谷歌宣布推出新的开源 AI 模型 DataGemma，旨在解决大语言模型（LLM）在处理统计数据时常出现的 “幻觉” 问题。这种幻觉现象让模型在回答有关数字和统计的问题时，可能会提供不准确的答案。DataGemma 模型的推出，标志着谷歌在 AI 领域的一次重要进展。图源备注：图片由AI生成，图片授权服务商Midjourney减少统计查询时的幻觉DataGemma 由两种不同的方法构成，旨在提升回答用户问题时的准确性。这些模型基于谷歌的数据共享平台 Data Commons 的海量真实世界数据，后者拥有超过2400亿个数

康奈尔大学等机构对GPT-4o、Claude和Gemini等生成式AI模型进行幻觉基准测试，发现这些模型生成无幻觉文本的比例仅约35%，显示AI可靠性仍有提升空间。研究通过法律、健康、历史等主题的权威来源进行事实核查，设计包含维基百科未涵盖内容的问题集，结果显示OpenAI模型整体表现最佳，但与GPT-3.5相比进步有限。研究指出，模型大小与幻觉频率无关，且即使是能在线搜索的模型也难以解决非维基百科问题，反映出维基百科对模型影响深远。研究者建议增加模型的拒答频率，使其仅回答部分问题，成为最“诚实”的模型。此外，赵文婷呼吁制定相关政策，确保人类专家参与验证AI生成信息的过程，以减轻幻觉问题并提升信息可靠性。

两篇论文揭示生成式AI内容可能被视为“胡说八道”，强调其对准确性的漠视对公众服务者构成挑战。生成式AI产出的错误信息不同于故意欺骗的谎言，论文主张使用“胡说八道”这一术语更为准确，有助于提升公众对科技的理解。目前，AI法律法规尚不完善，无法有效防止这类错误信息带来的危害。作者建议引入类似于出版领域的法规，强调避免可能造成社会危害的“随意发言”，确保真理不是多数意见的产物，呼吁加强对AI错误信息的规范与监管。

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

在这个信息爆炸的时代，内容创作者们可谓是忙得不可开交。据调查显示，大多数创作者每周要花超过20小时来为自己的小天地生产新内容。这样一来，留给他们与粉丝互动的时间就少之又少了。但是，Meta公司的掌门人马克·扎克伯格却认为，人工智能（AI）可能会成为解决这个问题的"救命稻草"。

虽然像 ChatGPT、Claude 和 Gemini 这样的大型语言模型令人印象深刻，但它们都有一个共同的大问题:经常会产生幻觉。这是人工智能领域的一个严重问题，甚至苹果也对未来苹果智能（Apple Intelligence）如何处理幻觉表示担忧。幸运的是，一组研究人员现在开发出了一种 AI 幻觉检测器，可以判断 AI 是否虚构内容。

["Dictionary.com评选“幻觉”为2023年度词汇，突显人工智能广泛应用。","搜索数据显示，“幻觉”查找量增加45%，AI相关词汇总体同比增长62%。","谷歌CEO Sundar Pichai指出AI存在“幻觉问题”尚未解决。","词源自拉丁语，突显人工智能对社会变革的持续影响。"]

["Galileo Lab 推出新的指标，帮助改进生成 AI 的准确性","OpenAI GPT-4 在基本问答任务中有 23% 的幻觉倾向","Galileo Labs 的新指标包括正确性和上下文一致性","这些新工具可帮助企业在 AI 实现中测试和减轻幻觉问题"]

["OpenAI GPT-4在Vectara排行榜上脱颖而出，文档摘要中仅有3%的幻觉率，准确率达到97%。","Vectara评选结果显示，GPT-4Turbo和GPT-4表现最佳，GPT-3.5Turbo居次，非OpenAI模型中Meta Llama最高。","Vectara发布开源模型，可检查语言模型幻觉率，提高生成式AI系统可信度。","谷歌模型在排行榜中表现一般，Google Palm2的幻觉率高达27.2%。"]

["剑桥词典宣布2023年度词汇为“幻觉”，AI技术重新定义了这一概念。","人工智能工具如ChatGPT引起了强烈兴趣，但也带来了对AI生成文本可靠性的质疑。","AI“幻觉”在现实中产生影响，涉及虚构法律案例等实际情境。","剑桥大学的AI伦理学家指出AI“幻觉”将人工智能拟人化。"]

["Meta旗下Galactica模型发布仅三天即因幻觉问题下线，LeCun表示遗憾。","Galactica被认为是大型语言模型早期尝试，对Meta后续项目有积极影响。","模型第一作者Ross Taylor承认发布时未充分检查基础模型，但仍强调研究价值。","Meta公司AI研究副总裁Joelle Pineau强调Galactica是研究项目非产品。","Galactica下线引起Yann LeCun等人关注，LeCun警告过度强调AI道德可能适得其反。"]

["LexisNexis去年5月首次透露推出Lexis+ AI计划,利用大型语言模型回答法律问题。","LexisNexis取消Lexis+ AI的限制,使其对美国客户普遍可用。","Lexis+ AI提供可信赖的结果,具有「无幻觉」法律引文链接。","Lexis+ AI可进行对话式搜索、文档草拟、案件摘要以及文档分析等。","LexisNexis称Lexis+ AI可提高法律专业人士的速度、生产力和工作质量。"]

["专家担忧热门AI平台如ChatGPT存在的幻觉现象。","AI幻觉是信息看似正确实际不准确的现象。","ChatGPT被指出提供虚假信息，引发科学家关注。"]

["富士通宣布推出两项新的人工智能信任技术，旨在提高对话型人工智能模型的可靠性，包括检测幻觉和对抗性攻击的技术。","这些技术将整合到富士通的人工智能平台“Kozuchi”中，旨在为企业和个人用户提供工具，评估对话型人工智能回复的可靠性，增强人工智能的安全性。","第一项技术旨在高度精确地检测对话型人工智能回复中的幻觉，解决了回复中可能存在的误导问题。","第二项技术用于检测对话型人工智能回复中的植入网络钓鱼网址，以提高回复的安全性。"]

["美国 AI 初创公司 Galileo 发布新工具，帮助用户解释 AI 大模型的幻觉现象","Galileo Studio 具备实时监测功能，优化 LLMs 性能","Galileo 引入了新指标和防护措施，评估模型输出的真实性","解决幻觉问题，确保 LLMs 输出准确和合规"]

["大模型幻觉主要分为与输入、上下文及事实冲突的三类。","相比传统模型,大模型幻觉评估面临数据规模大、通用性强、不易察觉等新难题。 ","缓解幻觉可从预训练、微调、强化学习等方面入手,但仍有可靠评估等挑战。","总体来说,大模型幻觉的评估与缓解仍有待深入研究。","以促进大模型的实际应用。"]

研究人员开发出的 AI 科研智能体，直接代替你写论文，人类只用负责毕业就行了。