中国の起業家、雷軍氏の国慶節期間中のAIに関する発言が大きな議論を呼んでいます。AIによる顔交換や音声合成技術の悪用を防ぐため、関連法の整備を求める声が上がっています。

雷軍は、人工知能端末が人工知能技術を実装する重要なプラットフォームであり、その応用範囲がスマートフォン、スマートカー、ウェアラブルデバイスからスマートホーム、ロボットなどへと拡大し続けていると指摘しました。この傾向は、消費市場に新たな活力を吹き込むだけでなく、サプライチェーンの高付加価値化・高度化アップグレードにも重要な原動力となります。しかし、人工知能端末の急速な発展の初期段階では、依然としてコア技術のボトルネックを克服し、協調的イノベーションエコシステムを構築して、産業の標準化、協調、イノベーション、高品質な発展を促進する必要があります。

先日、研究チームはデジタルコンテンツ制作に高忠実度のヘッド合成ソリューションを提供することを目的とした、CHANGERと呼ばれる新しいヘッドフュージョンパイプラインを発表しました。この技術は、特に視覚効果（VFX）、デジタルヒューマンの作成、バーチャルアバターなどの分野において、産業用途で特に重要です。ヘッドフュージョンの主な課題は、頭の形やヘアスタイル構造の違いであり、これにより合成境界が不自然になったり、融合アーティファクトが発生することがよくあります。既存の方法では、通常、前景と背景の処理を単一タスクとして扱うため、融合効果が不十分になることがよくあります。CH

韓国におけるディープフェイク犯罪問題が社会的に大きな注目を集めており、特に未成年者を標的とした事例が頻発し、被害者数は約22万人と推定されています。被害者は学生、教師、軍人など幅広い層に及び、未成年者の割合が高いことが特徴です。犯罪手段としてソーシャルメディアが利用され、被害者の情報が不正なグループの認証などに悪用されるケースも確認されています。特に女性を標的としたディープフェイク事件が注目されており、国内外の韓国国際学校を含め、被害に遭った学校は100校を超えると言われています。これを受け、韓国大統領は、デジタル技術を利用した犯罪行為の徹底的な捜査と根絶を訴えています。

AI生成画像の精緻さが増すにつれ、人々は動画の信憑性に疑問を抱き始めています。量子位がbilibiliで公開した動画では、AIによって制作された動画を見抜く方法が論じられ、広く注目を集めています。動画では、人物の動作や表情の自然さ、音声や口元の動きと感情の一貫性などを観察するといった、直感的な識別方法が紹介されています。膨大な量の動画に対処するためには、AI認識技術が鍵となります。AI顔交換技術は、つなぎ合わせの過程で痕跡を残し、AI認識における重要な手がかりとなります。研究チームは、モデル、動き、幾何学などの次元から分類器を開発し、識…

中国中央電視台（CCTV）の報道によると、湖北省黄石市で最近摘発された事件で、犯罪組織がAI顔交換技術を利用してソーシャルアカウントのロックを解除し、転売して不正に利益を得ていた。被害者の王さんは、株のライブ配信チャンネルに参加した後、投資を誘導され、最終的に出金に問題が発生。相手のアカウントが詐欺容疑で凍結され、資金を引き出せなくなった。

アメリカ著作権局が初の報告書を発表し、AI駆動の顔交換技術が著作権法に課題を突きつけていると強調し、未承認のAI顔交換を定義し、取り締まる新たな法律の緊急の必要性を訴えました。報告書は、この技術がエンターテインメントや政治分野で脅威となり、一般市民の評判と生活にリスクをもたらすと指摘しています。AI顔交換技術の普及により、事実上誰でも低コストでリアルな仮想イメージを作成できるようになり、悪用の可能性が広がっています。著作権局は、法的責任を明確化し、保護期間を少なくとも個人の生涯にわたるものとし、オンラインサービスプロバイダーが未承認のコンテンツを削除することを促すセーフハーバーメカニズムを提供すべきだと提案しています。

人工知能技術の急速な発展に伴い、AI生成ビデオの精巧さが増し、社会に深刻な安全上の脅威をもたらしています。最近では、2500万ドルの詐欺事件でAI生成の精巧なビデオが利用された事例もあります。この課題に対処するため、コロンビア大学工学部研究チームは、AI生成ビデオの検出を目的とした革新的なツール、DIVID（DIffusion-generated VIdeo Detector）を開発しました。

北京インターネット法院は最近、北京市初の2件の「AI顔交換」ソフトウェア著作権侵害事件を審理した。原告の廖某と呉某は国風ショートビデオモデルであり、彼らは「顔交換」アプリの運営者が許可なく彼らのビデオを使用して顔交換テンプレートを作成し、アプリ内で有料で使用できるようにしたとして、肖像権と個人情報権を侵害されたと主張している。

詐欺師がAI技術を利用したディープフェイクで2500万ドルを詐取することに成功。財務担当者が偽の英国最高財務責任者からのメッセージを受け取り、15回にわたる送金で被害に遭う。警察は送金前に相手方に特定の動作を要求するなど、同様の事態を防ぐよう勧告している。