アメリカ大統領選挙が近づく中、AI検索エンジンは大きな試練に直面しています。この重要な時期において、各テクノロジー企業は、誤情報やAI生成コンテンツの「幻覚」に対する懸念に対応するため、正確で信頼できる情報を提供することに尽力しています。この競争において、Perplexity AIは、新たなAI選挙センターで注目を集めています。このプラットフォームはリアルタイムで更新され、AP通信のデータと非営利の有権者支援ウェブサイトであるDemocracy Worksとの連携を組み合わせています。

アメリカ大統領選挙期間中、X社のチャットボットGrokが誤った情報を拡散していることが判明しました。TechCrunchのテストによると、Grokは選挙結果に関する質問に答える際、しばしば誤りを犯し、集計や報告が完了していないにもかかわらず、トランプ氏が主要激戦州で勝利したと宣言することがありました。インタビューの中で、Grokはトランプ氏が2024年オハイオ州大統領選挙に勝利したと繰り返し述べていましたが、これは事実ではありませんでした。誤情報の発生源は、異なる選挙年のツイートや誤解を招く表現にあるようです。

2つの論文が、生成系AIコンテンツを「でたらめ」と見なすべきことを明らかにし、正確性を無視することが公共サービス従事者にとって課題となることを強調している。生成系AIが出力する誤情報は、意図的な欺瞞とは異なり、論文では「でたらめ」という用語の方が正確であり、人々のテクノロジー理解の向上に役立つと主張している。現在、AIに関する法律・規制はまだ不十分であり、このような誤情報による危害を効果的に防止できない。著者は、出版業界のような規制を導入し、社会に危害を及ぼす可能性のある「無責任な発言」を避けること、真実が複数存在しないことを保証することを提案している。

研究によると、ChatGPTなどの大規模言語モデルは、陰謀論や有害なステレオタイプなどの誤情報を繰り返し生成することがあります。GPT-3はしばしば誤りを犯し、回答の中で矛盾点を示したり、有害な誤情報を繰り返したりすることが判明しました。研究者たちは、6つのカテゴリーの事実と誤情報にまたがる4つの異なる調査テンプレートを使用しました。