最近、ChatGPTユーザーが非常に奇妙な現象を発見しました。「David Mayer」など特定の名前を尋ねると、チャットボットがすぐにフリーズしたり、応答を拒否したりするのです。この奇妙な行動は、すぐに多くの憶測と議論を呼び起こしました。
調査の結果、これらの言及できない名前には、Brian Hood、Jonathan Turley、David Faberなどが含まれていました。一見何の関係もないように見えますが、詳しく調べてみると、これらの人々は特定の公共の事件やプライバシー問題に関連していることが分かりました。
Brian Hoodを例に挙げると、このオーストラリアの市長は、ChatGPTが数十年前の犯罪行為と彼を誤って関連付けたとして非難していました。Jonathan Turleyは法律の専門家で、「誤報」による嫌がらせを受けていました。David Faberは有名なCNBCの記者です。
画像出典：画像はAIによって生成され、画像ライセンスサービスプロバイダーMidjourneyによって提供されています。
最も注目すべきはDavid Mayerという名前です。調査によると、これは故人の英米の学者で、長年にわたり、彼の名前を偽名として使用する指名手配犯に悩まされていました。
OpenAIはこの事件について最終的に回答し、内部のプライバシーツールが特定の名前をマークするという事実を認めました。しかし、同社は詳細を明らかにすることを拒否し、プライバシー保護の観点からであるとだけ述べています。
この事件の最も可能性の高い説明は、AIモデルの内部で特別なリストが管理されており、特定の名前に対して特別な処理メカニズムが適用されているということです。このメカニズムは、技術的な故障によってチャットシステムのクラッシュを引き起こした可能性があります。
専門家たちは、これは人工知能システムの複雑さを示すもう一つの鮮やかな例だと考えています。これは、AIは万能に見えるかもしれませんが、実際には複雑なコードとルールによって駆動されるシステムであり、予期せぬ技術的な故障が発生する可能性があることを思い出させてくれます。
ユーザーにとって、この事件は、情報を取得する際には、直接確認することが常に最も信頼できる方法であるという当たり前のことを改めて証明しました。AIはどんなに賢くても、継続的な改善と修正が必要なツールに過ぎません。
