英BBCの最近の調査で、主要なAIアシスタントがニュースや時事問題に関する質問への回答において、誤解を招く不正確な情報を生成することが多いことが明らかになりました。ChatGPT、Gemini、Perplexityという主要な4つのAIツールが生成した回答の半数以上が「重大な問題」があると判断されました。画像注記：画像はAI生成、画像ライセンスサービスプロバイダーMidjourney研究者らは、これらの4つの生成系AIツールに指示を出しました。

最近の研究によると、選挙に関するスペイン語の質問への回答において、AIモデルの正確性が英語の回答と比べて大幅に低いことが明らかになりました。この研究は、Proof News、ファクトチェックサービスFactchequeado、サンフランシスコ高等研究院が共同で実施するAI民主主義プロジェクトによって行われました。画像注記：画像はAIによって生成され、Midjourney社の画像ライセンスサービスを利用しています。研究者らは、間近に迫ったアメリカ大統領選挙を念頭に、アリゾナ州の有権者の模倣を試みました。

イスラエル工科大学を主導とする最新の研究によると、大規模言語モデル（LLM）は実際よりも多くの知識を秘めている可能性があることが示されました。研究者らは、LLMの内部表現が、出力の正しさに関する情報をエンコードしていることを発見しました。つまり、最終的に誤った回答を生成した場合でも、内部的には正解を認識している可能性があるのです。本研究チームは、現実世界の応用シーンに近い、長文生成におけるLLMの誤りを重点的に分析しました。そして、モデルの生成された回答と正解を比較することで、誤答検出データセットを構築しました。

最近、Nature誌に掲載された研究で、人工知能の発展における興味深い現象が明らかになりました。大規模言語モデル（LLM）が進化するにつれて、正しくない可能性があっても、ますます自信満々に回答する傾向があるというものです。この現象は、AIの信頼性と使用におけるリスクに関する幅広い議論を引き起こしています。研究チームは、スペインのバレンシア人工知能研究所のJosé Hernández-Orallo氏とその同僚らによって構成されています。彼らはAIモデルの