先日、中関村フォーラムの一環として開催された第12回デジタル金融とテクノロジー金融会議において、アリババ傘下のZOLOZ（ゾロズ）のDeepfake検出ソリューションが「金融テクノロジー技術革新と応用事例」に選出されました。ZOLOZは傘下の天機ラボを基盤に、業界で初めて大規模で高品質なマルチモーダルDeepfakeデータセットを構築しました。これは百万を超えるマルチメディアコンテンツを合成しており、現実世界の金融リスク管理環境におけるDeepfake攻撃サンプルを十分にシミュレートし、金融分野における既存のDeepfake検出技術を評価するための基盤となります。

最近、韓国でDeepfake技術の悪用事件が広く注目を集めています。約22万人がTelegramを通じてAIで生成された性的な画像を拡散し、女性の権利に深刻な被害を与えました。この事件はN号房事件と呼応し、AI技術の悪用の社会的危険性を浮き彫りにしています。この問題に対し、中国の女性エンジニアである張欣怡氏とそのチームは、外灘大会AIイノベーションコンテストでDeepfakeモデルを世界に向けてオープンソース化すると発表しました。これはDeepfake技術の悪用に対抗するための技術的手段を提供することを目的としています。この行動はソーシャルメディアで高い評価を得ており…