大型语言模型（LLM）的横空出世，尤其是ChatGPT等应用的普及，彻底改变了人机交互的方式。 这些模型能够生成连贯且全面的文本，令人印象深刻。然而，尽管能力强大，LLM却容易产生“幻觉”，即生成看似真实但实际上是虚构、无意义或与提示不符的内容。哈佛大学的研究人员对LLM“幻觉”现象进行了深入研究，发现其根源在于LLM的工作原理。 LLM通过对海量文本数据进行机器学习来构建概率模型，并根据词语共现的概率来预测下一个词语。 换句话说，LLM并非真正理解语言的含义，而是根

["专家担忧热门AI平台如ChatGPT存在的幻觉现象。","AI幻觉是信息看似正确实际不准确的现象。","ChatGPT被指出提供虚假信息，引发科学家关注。"]

["美国 AI 初创公司 Galileo 发布新工具，帮助用户解释 AI 大模型的幻觉现象","Galileo Studio 具备实时监测功能，优化 LLMs 性能","Galileo 引入了新指标和防护措施，评估模型输出的真实性","解决幻觉问题，确保 LLMs 输出准确和合规"]