先日、中関村フォーラムの一環として開催された第12回デジタル金融とテクノロジー金融会議において、アリババ傘下のAnt GroupのDeepfake検出ソリューションが「金融テクノロジー技術革新と応用事例」に選出されました。
Ant Groupは傘下の天機研究所を基盤に、業界で初めて大規模で高品質なマルチモーダルDeepfakeデータセットを構築しました。このデータセットは100万件を超えるマルチメディアコンテンツを合成し、現実世界の金融リスク管理環境におけるDeepfake攻撃サンプルを十分にシミュレートしており、既存の金融分野におけるDeepfake検出モデルの性能を評価するための重要な基準となっています。金融業務のシナリオにおいて、Ant Groupの複数のテストデータセットにおけるDeepfake検出精度は98％以上に達し、Deepfake技術を利用した複数の詐欺行為を阻止し、ユーザーの資産を保護することに成功しました。
このデータセットは、従来の金融分野におけるDeepfake検出モデルが、大規模なトレーニングが不可能で、現実環境での評価が困難であったという問題を解決しました。また、マルチモーダル分析の観点から、従来の検出モデルの発展を促進しました。現在、このデータセットはAnt Groupの偽造防止製品ZOLOZ Deeperの顧客向けサービスにおける重要な機能となっています。
Ant Groupは、最大81種類のDeepfake技術を用いて高品質の合成画像を生成し、様々な偽造技術の種類、複雑な照明条件、背景環境、表情を網羅することで、複雑でリアルな現実世界の攻撃環境をシミュレートしています。静止画に加え、100種類以上の偽造技術の種類を網羅し、異なる言語、アクセント、背景ノイズを含む大量の音声を含むビデオデータも収集・生成し、データセットの多様性と複雑性を確保しています。
データの前処理とアノテーション段階において、Ant Groupは収集したデータをクレンジングおよび前処理し、データ品質を確保しました。専門家チームがデータにアノテーションを付け、各画像またはビデオがDeepfakeで生成されたコンテンツかどうかを明確にし、同時に偽造の痕跡を最小限に抑え、高度にリアルな効果を実現しました。以前、Ant GroupはAIデータ合成と生成プラットフォームを発表し、データアノテーションにおいて「AI主導」を実現し、アノテーションモデルの人工アノテーション量は70％以上削減されました。
さらに、Ant Groupは2024年の外灘大会でDeepfake攻防戦を開催し、Deepfakeデータセットを競技の基本的なトレーニングとテストデータとして使用しました。この大会には、世界26の国と地域から2200名以上の参加者が参加しました。大会参加者が提供したアルゴリズムソリューションを通じて、Deepfakeデータセットの攻撃品質と検出難易度は効果的に検証および評価されました。
人工知能技術の発展に伴い、Deepfake技術も急速に進歩しています。この技術は深層学習アルゴリズムを利用して、ビデオ内の人間の顔をリアルに置き換えることができます。Deepfakeはエンターテイメントやメディアなどの分野で肯定的な応用がありますが、金融分野、特に本人確認や取引確認の段階では、Deepfake技術は新たなリスクをもたらします。金融機関の本人確認システムは、顔認証などの生体認証技術に依存することが多く、これらのシステムがDeepfake技術によって欺瞞されると、深刻な金融詐欺につながる可能性があります。
そのため、金融分野ではDeepfake攻撃対策システムの開発が不可欠ですが、強力なDeepfake検出防御モデルには、現実世界の環境に適合した高品質な顔Deepfakeデータセットが必要です。したがって、現実世界の環境をシミュレートしたデータセットをどのように構築し、その有効性をどのように検証するかが喫緊の課題となっています。
