先日、ウォールストリートジャーナルは、人工知能企業OpenAIがChatGPTで生成されたテキストを高精度で識別できるツールを開発したが、まだ正式にリリースされていないと報じました。これに対し、OpenAIは、テキスト透かし技術の研究を進めていることを認めつつも、その技術には多くの課題が残っていると回答しました。
伝えられるところによると、OpenAIはテキスト透かし技術を用いて、他の企業のモデルで生成されたコンテンツではなく、ChatGPTからのテキストの検出に焦点を当てる計画です。この技術は、ChatGPTが単語を選択する方法をわずかに調整し、テキストの中に目に見えない「透かし」を作成し、専用のツールで検出できるようにします。
OpenAIは、テキスト透かしは彼らが探求している複数の解決策の1つに過ぎず、他の解決策には分類器やメタデータなどが含まれており、テキストの出所を特定することを目的としていると述べています。テキスト透かし技術は、場合によっては優れた性能を示しますが、翻訳、書き換え、特殊文字の挿入などの改ざん行為が行われると、その効果は低下します。さらに、この技術は、英語を母国語としない人々など、特定の集団に不均衡な影響を与える可能性があります。
上記のような複雑な要因とそのエコシステム全体への潜在的な影響を考慮して、OpenAIはテキストの起源を辿る技術の研究を慎重に進め、音声・映像コンテンツの認証ツールの開発を優先すると述べています。
この決定は、AI生成コンテンツの識別と管理の問題に関する業界全体の議論を引き起こしました。AI技術の急速な発展に伴い、イノベーションの保護とリスクの防止のバランスをどのように取るかが、関係者の注目を集めています。
