ドイツのカメラメーカー、ライカは最近、人工知能（AI）によって生成された画像ではないことを検証する技術を搭載した新型カメラM11-Pを発表しました。
このカメラは、ウォーターマーク技術を用いて各写真に特別なメタデータを追加することで、ファイルの真正性を検証し、将来的な変更を記録します。このデジタル認証システムは、メディアとテクノロジー業界におけるコンテンツの真正性と起源に関するオープンスタンダードを推進するために、アドビが2018年に設立したContent Authenticity Initiative（CAI）の基準に準拠しています。
ライカのこの取り組みは、AIによる偽造画像が蔓延する時代において、画像の真正性を維持することを目的としています。
一枚の写真から数秒で、その人物が話し、動き、演技をする様子を再現できる、それがバイトダンスが発表したOmniHuman-1の魅力です。最近ネットで話題の人工知能モデルは、高精細な動画を生成することで静止画に命を吹き込み、音声と組み合わせることで口パク、全身の動作、豊かな表情を表現します。従来のディープフェイク技術とは異なり、OmniHuman-1は顔の入れ替えだけに留まらず、全身を完全にアニメーション化することができます。
人工知能技術の急速な発展に伴い、ディープフェイクコンテンツが社会的に大きな注目を集めています。この新たな問題に対処するため、カリフォルニア州は新年早々、AI生成のディープフェイクコンテンツの規制強化を目的とした一連の新しい法律・規制を施行しました。これらの法律は、ソーシャルメディアプラットフォーム、コンテンツ制作者、関連業界に影響を与え、AI技術の応用に関する規制が新たな段階に入ったことを示しています。画像出典：AI生成画像、画像ライセンス提供者Midjourney。重要な法律の一つは、対象となる…
近年、音声アシスタントから自動運転技術まで、AIは私たちの生活のあらゆる側面に浸透しています。しかし、AI技術の広範な応用は、潜在的なリスクも生み出しており、その中でもディープフェイク技術が社会的な懸念を引き起こしています。ディープフェイク技術はアルゴリズムを利用して非常にリアルな偽のコンテンツを生成し、大量の現実データから学習することで、人物やシーンに非常に似た動画や画像を生成します。この技術はAIの潜在能力を示していますが、同時に詐欺行為を生み出す可能性もあります。例えば、最近では張文宏医師の容姿と声を詐称してライブコマースを行った事例が発生しました。偽造…
先日、中関村フォーラムの一環として開催された第12回デジタル金融とテクノロジー金融会議において、アリババ傘下のZOLOZ（ゾロズ）のDeepfake検出ソリューションが「金融テクノロジー技術革新と応用事例」に選出されました。ZOLOZは傘下の天機ラボを基盤に、業界で初めて大規模で高品質なマルチモーダルDeepfakeデータセットを構築しました。これは百万を超えるマルチメディアコンテンツを合成しており、現実世界の金融リスク管理環境におけるDeepfake攻撃サンプルを十分にシミュレートし、金融分野における既存のDeepfake検出技術を評価するための基盤となります。
