人工知能技術の急速な発展に伴い、AIによって生成されたテキスト、画像、ビデオは様々な分野でますます高度に活用されるようになっています。しかし同時に、信頼性に関する危機も発生しており、虚偽情報の拡散が社会に潜在的な脅威をもたらしています。この課題に対処するため、騰訊は先日、AI技術を用いてAIによる虚偽情報を識別することを目的とした、新たなAI生成コンテンツ検出ツールを発表しました。このツールは騰訊の朱雀实验室によって開発され、AI生成テキスト検出システムとAI生成画像検出システムの2つのシステムで構成されています。騰訊は公式に発表で、

OpenAI社内では、ChatGPT生成テキストに透かし技術を導入し、学生による剽窃を防ぐべきか否かで議論が巻き起こっています。この透かし技術は、モデルの単語やフレーズの予測を調整することで検出可能なパターンを生成し、教師による課題の剽窃検出を支援することを目的としており、テキストの質には影響を与えません。高い精度を誇り、単純な書き換えにも耐性がありますが、他のモデルを用いた書き換えでは透かしを回避できるため、懸念が生じています。透かしの導入は、一部ユーザーにスティグマを与え、利用率の低下につながる可能性があります。そのため、技術の有効性とユーザーエクスペリエンスの両立が課題となっています。

OpenAIは、AI生成画像を識別できる、高精度なAI検出ツールを開発中です。OpenAIの最高技術責任者であるミラ・ムラティ氏は、このツールの信頼性は99％に達すると述べています。このツールは、虚偽のニュース報道防止に重要な意味を持ちます。OpenAIは、GPT-5以降の新しいAIモデルの発表も計画しています。