一枚の写真から数秒で、その人物が話し、動き、演技をする様子を再現できる、それがバイトダンスが発表したOmniHuman-1の魅力です。最近ネットで話題の人工知能モデルは、高精細な動画を生成することで静止画に命を吹き込み、音声と組み合わせることで口パク、全身の動作、豊かな表情を表現します。従来のディープフェイク技術とは異なり、OmniHuman-1は顔の入れ替えだけに留まらず、全身を完全にアニメーション化することができます。

近年、音声アシスタントから自動運転技術まで、AIは私たちの生活のあらゆる側面に浸透しています。しかし、AI技術の広範な応用は、潜在的なリスクも生み出しており、その中でもディープフェイク技術が社会的な懸念を引き起こしています。ディープフェイク技術はアルゴリズムを利用して非常にリアルな偽のコンテンツを生成し、大量の現実データから学習することで、人物やシーンに非常に似た動画や画像を生成します。この技術はAIの潜在能力を示していますが、同時に詐欺行為を生み出す可能性もあります。例えば、最近では張文宏医師の容姿と声を詐称してライブコマースを行った事例が発生しました。偽造…

ミネソタ州で「ディープフェイク技術による選挙への影響」に関する法律をめぐる連邦訴訟で新たな論争が浮上した。原告弁護士団は最新の法廷文書で、この法律を支持する宣誓供述書に、人工知能によって生成されたテキストが含まれている可能性があると主張している。画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney。ミネソタ州改革者によると、同州司法長官キース・エリソン（Keith Ellison）はスタンフォードソーシャルメディアラボに…

シンガポールは最近、サイバーセキュリティに関する一連の重要な発表を行い、特に人工知能（AI）システムのセキュリティガイドラインと、選挙広告でのディープフェイク技術の使用禁止に関する法案を発表しました。これらの措置は、組織がAIの開発と展開における潜在的なリスクを軽減し、技術の安全性を確保することを目的としています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyから提供されています。シンガポールサイバーセキュリティ局（CSA）が発表した『AIシステムセキュリティガイドライン』は、「安全な設計」の理念を強調しており、…

ガビン・ニューサムカリフォルニア州知事は最近の署名式で、AI業界に対する全国でも比較的厳しい一連の新法を発表しました。今回の新法は5項目からなり、そのうち3項目は選挙に影響を与える可能性のあるAIディープフェイク技術を対象とし、残りの2項目はハリウッド俳優の音声と肖像のクローン作成に関連しています。画像出典：AI生成画像、画像ライセンスプロバイダーMidjourneyによる新法AB2655は、大規模オンラインプラットフォームに...

シンガポールは最近、選挙期間中のディープフェイク技術の使用を禁止する新たな法案を提出しました。これは、情報の真実性と選挙の公正性を確保するためです。生成AI技術の発展に伴い、ディープフェイクコンテンツのリスクが高まっていることから、本法案はAI技術と非AI技術の両方を使用して作成された虚偽のコンテンツ（動画、音声、画像など）を規制対象としています。主な規定としては、選挙期間中に候補者の言動を虚偽に描写するオンライン広告の掲載を禁止し、違反者には罰金または懲役が科せられます。また、虚偽のコンテンツを掲載した個人やソーシャルメディアプラットフォームに対して、訂正命令を出すことも可能です。

韓国で青少年がディープフェイク技術を利用して作成したわいせつ動画が大きな社会問題となっています。ネット上の性犯罪が急増しており、警察は青少年教育の強化と指導、ネットセキュリティと倫理意識の向上を訴えています。Telegramでは学校や教職員を標的にしたわいせつ動画の投稿が複数報告されており、今年7月までにディープフェイク関連のネット犯罪が大幅に増加したことから、規制強化と法教育の実施を求める声が上がっています。

マイクロソフト副会長ブラッド・スミス氏が、AI生成ディープフェイク技術を悪用した詐欺から国民を守るため、米国議会に対して関連法の制定を要請しました。業界や非営利団体による取り組みは存在するものの、ディープフェイク詐欺への対策として法律のアップデートが必要だと指摘。包括的な「ディープフェイク詐欺法」の制定を訴え、詐欺目的でこの技術を利用するサイバー犯罪者を訴追するための法的枠組みを構築する必要性を強調しました。また、AI生成による児童性的虐待や非自発的親密画像に関する法律の改定も呼びかけています。