ディープフェイクは今やあらゆる場所に浸透しています。生成AIの普及に伴い、オンライン上の偽情報は爆発的に増加しました。認証プラットフォームSumsubの統計によると、2023年から2024年にかけて、世界のディープフェイク数は4倍に増加。2024年には、ディープフェイクが不正行為全体の7％を占め、なりすまし、アカウント乗っ取りから高度なソーシャルエンジニアリング攻撃まで、あらゆるものにその影が見られます。Metaはディープフェイクに対抗するため、

ディープフェイク技術の普及に伴い、オンライン上の虚偽情報が急増しています。ID検証プラットフォームSumsubのデータによると、2023年から2024年にかけてディープフェイクの数は4倍に増加し、2024年にはすべての詐欺行為の7％を占めています。これには、なりすまし、アカウント乗っ取り、高度なソーシャルエンジニアリング攻撃など、さまざまな形態が含まれます。この課題に対処するため、Meta社は最近、AI生成による…

生成AIの商業化に伴い、オンライン上の虚偽情報が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、世界的なディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクが全ての不正行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング活動まで、様々な形態に及んでいます。この問題に対処するため、MetaはAI生成動画に透かしを挿入する新しいツール「Meta Video Seal」を発表しました。

グーグルは最近、AI生成テキストの識別を支援するテキスト透かしツールSynthIDをオープンソース化すると発表しました。このツールは現在、グーグルの「責任ある生成AIツールキット」を通じて一般公開されています。グーグルDeepMindの研究担当バイスプレジデントであるPushmeet Kohli氏は、この技術により、他の生成AI開発者はテキスト出力が自社の大規模言語モデル（LLM）によるものかどうかを検出できるようになり、より責任ある開発に繋がるとしています。

マイクロソフトは、「Content Credentials as a Service」と呼ばれるデジタル透かしツールを発表しました。これは、ディープフェイクによる脅威から政治キャンペーンを守ることを目的としています。このツールは、コンテンツの作成日時、方法、作成者などのメタデータ情報を付加します。マイクロソフトは組織と協力してBing上に信頼できる選挙情報ウェブサイトを立ち上げ、AIによる虚偽の政治広告を禁止する法案を支持しています。デジタル透かしツールに加え、マイクロソフトはサイバーセキュリティ保護とAIに関するアドバイスを提供し、選挙連絡センターを設置しています。