専門家は、ディープフェイク検出ツールの開発において、肌の色が濃い人々への偏りを避けるよう呼びかけています。現在のほとんどのディープフェイク検出器は、トレーニングデータセットに依存した学習戦略に基づいていますが、これらの方法は、肌の色が濃い人々には必ずしも有効ではありません。偏りによって少数派が詐欺、詐取、虚偽情報による圧力をより強く受けることを懸念し、専門家は、この問題を解決するために、より包括的なトレーニングセットと測定方法を構築するよう求めています。
専門家は、ディープフェイク検出ツールの開発において、肌の色が濃い人々への偏りを避けるよう呼びかけています。現在のほとんどのディープフェイク検出器は、トレーニングデータセットに依存した学習戦略に基づいていますが、これらの方法は、肌の色が濃い人々には必ずしも有効ではありません。偏りによって少数派が詐欺、詐取、虚偽情報による圧力をより強く受けることを懸念し、専門家は、この問題を解決するために、より包括的なトレーニングセットと測定方法を構築するよう求めています。
一枚の写真から数秒で、その人物が話し、動き、演技をする様子を再現できる、それがバイトダンスが発表したOmniHuman-1の魅力です。最近ネットで話題の人工知能モデルは、高精細な動画を生成することで静止画に命を吹き込み、音声と組み合わせることで口パク、全身の動作、豊かな表情を表現します。従来のディープフェイク技術とは異なり、OmniHuman-1は顔の入れ替えだけに留まらず、全身を完全にアニメーション化することができます。
人工知能技術の急速な発展に伴い、ディープフェイクコンテンツが社会的に大きな注目を集めています。この新たな問題に対処するため、カリフォルニア州は新年早々、AI生成のディープフェイクコンテンツの規制強化を目的とした一連の新しい法律・規制を施行しました。これらの法律は、ソーシャルメディアプラットフォーム、コンテンツ制作者、関連業界に影響を与え、AI技術の応用に関する規制が新たな段階に入ったことを示しています。画像出典:AI生成画像、画像ライセンス提供者Midjourney。重要な法律の一つは、対象となる…
近年、音声アシスタントから自動運転技術まで、AIは私たちの生活のあらゆる側面に浸透しています。しかし、AI技術の広範な応用は、潜在的なリスクも生み出しており、その中でもディープフェイク技術が社会的な懸念を引き起こしています。ディープフェイク技術はアルゴリズムを利用して非常にリアルな偽のコンテンツを生成し、大量の現実データから学習することで、人物やシーンに非常に似た動画や画像を生成します。この技術はAIの潜在能力を示していますが、同時に詐欺行為を生み出す可能性もあります。例えば、最近では張文宏医師の容姿と声を詐称してライブコマースを行った事例が発生しました。偽造…
先日、中関村フォーラムの一環として開催された第12回デジタル金融とテクノロジー金融会議において、アリババ傘下のZOLOZ(ゾロズ)のDeepfake検出ソリューションが「金融テクノロジー技術革新と応用事例」に選出されました。ZOLOZは傘下の天機ラボを基盤に、業界で初めて大規模で高品質なマルチモーダルDeepfakeデータセットを構築しました。これは百万を超えるマルチメディアコンテンツを合成しており、現実世界の金融リスク管理環境におけるDeepfake攻撃サンプルを十分にシミュレートし、金融分野における既存のDeepfake検出技術を評価するための基盤となります。