最近、英国のガーディアン紙による調査で、OpenAIのChatGPT検索ツールにセキュリティ上の脆弱性がある可能性が明らかになりました。調査によると、ChatGPTは隠されたコンテンツを含むウェブページのサマリーを処理する際に操作され、悪意のあるコードを返す可能性があることがわかりました。これらの隠されたコンテンツには、ChatGPTの回答を妨害するための第三者の指示や、特定の製品やサービスを宣伝するための大量の隠されたテキストが含まれる可能性があります。

ランダム文字列ハッカー

画像出典：画像はAIによって生成され、画像ライセンス提供元はMidjourneyです。

テストでは、ChatGPTに偽のカメラ製品ページのリンクが提供され、そのカメラの購入価値を判断するよう求められました。通常のページでは、ChatGPTは製品の長所と短所をバランスよく指摘することができました。しかし、ページに隠されたテキストに肯定的な評価を求める指示が含まれている場合、ChatGPTの回答は完全に肯定的なものになり、ページに否定的なコメントが存在していてもその影響を受けませんでした。さらに、明確な指示がなくても、単純な隠されたテキストがChatGPTのサマリー結果に影響を与え、肯定的な評価を与える傾向が見られました。

CyberCXのサイバーセキュリティ専門家であるJacob Larsen氏は、ChatGPTの検索システムが現状のまま全面的に公開された場合、「高リスク」に直面する可能性があり、ユーザーを欺くためにウェブサイトを意図的に設計する者が現れる可能性があると警告しています。しかし、彼は同時に、OpenAIには強力なAIセキュリティチームがあり、この機能が全ユーザーに公開される頃には、これらの問題は徹底的にテストされ、修正されていると予想されると述べています。

Googleなどの検索エンジンは、隠されたテキストを使用するウェブサイトをペナルティの対象としており、これらのウェブサイトのランキングを下げたり、完全に削除したりしています。SR Labsの主席科学者であるKarsten Nohl氏は、SEOポイズニングはどの検索エンジンにとっても課題であり、ChatGPTも例外ではないと指摘しています。しかし、これは大規模言語モデル自体の問題ではなく、検索分野の新参者として直面する課題であると述べています。

要点：

🚨 ChatGPTは隠されたコンテンツによって操作され、不正確な評価を返す可能性があります。

🔍 隠されたテキストは、ページに否定的なコメントがあっても、ChatGPTの評価に影響を与える可能性があります。

🛡️ OpenAIは、検索ツールのセキュリティを向上させるために、潜在的な問題の修正に積極的に取り組んでいます。