生成AIの商業化に伴い、オンライン上の偽情報の数が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、ディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクはすべての詐欺行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング攻撃まで、さまざまな形態が含まれていました。
この問題に対処するため、Metaは新しいツール「Meta Video Seal」を発表しました。これは、AI生成ビデオに目立たない透かしを埋め込むことで、ディープフェイクに対抗することを目的としています。このツールは木曜日にオープンソースとして公開され、既存のソフトウェアへの統合を容易にし、Metaが以前発表したWatermark AnythingやAudio Sealなどの他の透かしツールと連携するように設計されています。
Metaの人工知能研究科学者であるPierre Fernandez氏は、インタビューで次のように述べています。「Video Sealを開発した目的は、特にAI生成ビデオの検出とオリジナルの保護を目的とした、より効果的なビデオ透かしソリューションを提供することです。」
Video Sealは初めてのビデオ透かし技術ではありません。DeepMindのSynthIDやMicrosoftの水印方法も市場で一定の応用がされていますが、Fernandez氏は、既存の水印ツールにはいくつかの欠点があると指摘しています。彼は次のように述べています。「他の水印ツールもありますが、ビデオ圧縮後では効果が低く、ソーシャルメディアでのコンテンツ配信ではビデオ圧縮は非常に一般的です。また、いくつかの方法は実行効率が低く、オープンソース化できないか、複製ができないものもあります。さらに、多くの方法は画像透かしをベースとしていますが、画像透かしはビデオには適していません。」
透かし機能に加えて、Video Sealはビデオに隠れた情報を埋め込むことができ、後でこの情報を明らかにすることでビデオのソースを特定できます。Metaは、Video Sealがぼかし、トリミングなどの一般的な編集方法、および一般的な圧縮アルゴリズムに効果的に耐えることができると主張しています。
しかし、Fernandez氏は、Video Sealには限界があることも認めており、特に透かしの検知可能性と改ざん防止能力のバランスが課題となっています。彼は、過度の圧縮や大幅な編集は、透かしを破壊したり、復元不可能にしたりする可能性があると指摘しています。
Metaが直面するより大きな課題は、特に他の独自のソリューションを使用しているユーザーにとって、開発者や業界関係者がVideo Sealを使用するインセンティブが不足していることです。そのため、Metaは、異なる水印技術のパフォーマンスを比較するための公開ランキング「Meta Omni Seal Bench」を導入し、今年の主要なAI会議であるICLRで水印技術に関するワークショップを開催する予定です。
Fernandez氏は次のように述べています。「より多くのAI研究者や開発者が、彼らの仕事に何らかの形の水印技術を取り入れることを期待しており、業界や学術界と協力して、この分野のより速い発展を促進したいと考えています。」
