2024世界百度大会で、百度創始者の李彦宏は、AI分野における注目すべき最新進歩を発表しました。過去2年間、大規模言語モデル技術において最も顕著な進歩は「幻覚」問題のほぼ解決であり、これはAIの回答の正確性が質的に向上し、真面目にでたらめを言うことから信頼できるインテリジェントアシスタントへと変化したことを意味します。会合では、李彦宏は百度が新たに発表した検索強化型画像生成技術iRAGを重点的に紹介しました。この技術は、百度検索プラットフォームが蓄積した膨大な画像資源と高度な基礎モデルを革新的に統合したものです。

2つの論文が、生成系AIコンテンツを「でたらめ」と見なすべきことを明らかにし、正確性を無視することが公共サービス従事者にとって課題となることを強調している。生成系AIが出力する誤情報は、意図的な欺瞞とは異なり、論文では「でたらめ」という用語の方が正確であり、人々のテクノロジー理解の向上に役立つと主張している。現在、AIに関する法律・規制はまだ不十分であり、このような誤情報による危害を効果的に防止できない。著者は、出版業界のような規制を導入し、社会に危害を及ぼす可能性のある「無責任な発言」を避けること、真実が複数存在しないことを保証することを提案している。