最近、Meta社のAIアシスタントが、トランプ前大統領暗殺未遂事件について「そのような事件は起きていない」と誤った回答をしたことが大きな注目を集めており、Meta社幹部は謝罪しています。
Meta社のグローバル政策責任者であるジョエル・カプラン氏は、企業ブログ記事で、この誤りはAIシステムを支える技術によるものだと認めています。
当初、Meta社はAIをプログラムし、トランプ前大統領暗殺未遂に関する質問には回答しないようにしていましたが、ユーザーがこれに気づき始めた後、この制限を解除しました。この変更により、AIは少数の場合に誤った回答を続け、「そのような事件は起きていない」と主張するに至りました。カプラン氏は、このような状況は業界では珍しくなく、「幻覚」と呼ばれ、生成AIが一般的に直面する課題だと指摘しています。
Meta社だけでなく、Google社も同様の問題に直面しています。最近、Google社は、トランプ前大統領暗殺未遂に関する検索オートコンプリート機能の検閲に関する主張を否定せざるを得ませんでした。トランプ前大統領はソーシャルメディアで強い不満を表明し、これは再び選挙操作の試みであると主張し、Meta社とGoogle社の行動に注目するよう呼びかけています。
ChatGPTなどの生成AIが登場して以来、テクノロジー業界全体がAIによる虚偽情報の生成という問題の解決に努めてきました。Meta社などの企業は、高品質なデータとリアルタイムの検索結果を提供することでチャットボットを改善しようと試みていますが、今回の事件は、これらの大規模言語モデルが依然として誤った情報を生成しやすいこと、そしてそれが設計上の固有の欠陥であることを示しています。
カプラン氏は、Meta社はこれらの問題の解決に引き続き取り組んでおり、ユーザーからのフィードバックに基づいて技術を継続的に改善し、リアルタイムのイベントをより適切に処理していくと述べています。一連の出来事は、AI技術の潜在的な問題を浮き彫りにするだけでなく、AIの正確性と透明性に対する世間の関心を高めています。
要点：
1. 🤖 Meta社のAIがトランプ前大統領暗殺事件を否定する誤答をし、注目を集める。
2. ❌ 幹部は、この誤りを「幻覚」と呼び、業界共通の問題だと説明。
3. 🔍 Google社も関連検索結果の検閲を指摘され、トランプ前大統領の反発を買う。
