两篇论文揭示生成式AI内容可能被视为“胡说八道”，强调其对准确性的漠视对公众服务者构成挑战。生成式AI产出的错误信息不同于故意欺骗的谎言，论文主张使用“胡说八道”这一术语更为准确，有助于提升公众对科技的理解。目前，AI法律法规尚不完善，无法有效防止这类错误信息带来的危害。作者建议引入类似于出版领域的法规，强调避免可能造成社会危害的“随意发言”，确保真理不是多数意见的产物，呼吁加强对AI错误信息的规范与监管。

​最新报道揭露，备受瞩目并且备受资金支持的 AI 搜索工具 Perplexity，正引用来自不可靠的博客和 LinkedIn 帖子的低质量甚至错误的 AI 生成垃圾信息。

["研究发现，ChatGPT等大型语言模型经常重复阴谋论、有害的刻板印象等错误信息。","他们发现GPT-3经常出错，在一次回答过程中自相矛盾，并重复有害的错误信息。","研究人员使用了四种不同的调查模板，涵盖了六个类别的事实和错误信息。"]