Meta社は最近、Video Sealと呼ばれる新しいニューラルウォーターマークシステムを発表しました。このシステムは、AI生成ビデオの識別を目的としており、編集されたビデオでもそのソースを効果的に追跡できます。このウォーターマークは視聴者には見えませんが、検出することでビデオの真偽を検証できます。Meta社は、Video Sealウォーターマークモデル、研究論文、トレーニングおよび推論コードを含む、このシステム全体をMITライセンスのオープンソースソフトウェアとして公開しています。さらに、Meta社は…

ディープフェイク技術の普及に伴い、オンライン上の虚偽情報が急増しています。ID検証プラットフォームSumsubのデータによると、2023年から2024年にかけてディープフェイクの数は4倍に増加し、2024年にはすべての詐欺行為の7％を占めています。これには、なりすまし、アカウント乗っ取り、高度なソーシャルエンジニアリング攻撃など、さまざまな形態が含まれます。この課題に対処するため、Meta社は最近、AI生成による…

最近、スタンフォード大学のコミュニケーション学教授ジェフ・ハンコック（Jeff Hancock）氏が、政治的ディープフェイク動画に関する事件で、人工知能を用いて虚偽の証言を作成したとして告発され、大きな注目を集めています。この事件はミネソタ州司法長官キース・エリソン（Keith Ellison）氏によって提起され、ミネソタ州で最近可決された政治的ディープフェイク動画を禁止する法律に関連しており、表現の自由に対する脅威となる可能性があると懸念されています。画像の注記：画像はAIによって生成され、Midjourneyという画像権利サービスプロバイダーから許可を得ています。

2023年の分析によると、オンライン上のディープフェイク動画の圧倒的多数がポルノコンテンツであり、その数は2019年と比較して550％増加しています。ディープフェイクポルノは、すべてのディープフェイク動画の98％を占め、被害者の99％は女性です。韓国は、K-POPの人気が一因となり、ディープフェイクポルノの主要な被害国となっています。