一枚の写真から数秒で、その人物が話し、動き、演技をする様子を再現できる、それがバイトダンスが発表したOmniHuman-1の魅力です。最近ネットで話題の人工知能モデルは、高精細な動画を生成することで静止画に命を吹き込み、音声と組み合わせることで口パク、全身の動作、豊かな表情を表現します。従来のディープフェイク技術とは異なり、OmniHuman-1は顔の入れ替えだけに留まらず、全身を完全にアニメーション化することができます。

人工知能技術の急速な発展に伴い、ディープフェイクコンテンツが社会的に大きな注目を集めています。この新たな問題に対処するため、カリフォルニア州は新年早々、AI生成のディープフェイクコンテンツの規制強化を目的とした一連の新しい法律・規制を施行しました。これらの法律は、ソーシャルメディアプラットフォーム、コンテンツ制作者、関連業界に影響を与え、AI技術の応用に関する規制が新たな段階に入ったことを示しています。画像出典：AI生成画像、画像ライセンス提供者Midjourney。重要な法律の一つは、対象となる…

近年、音声アシスタントから自動運転技術まで、AIは私たちの生活のあらゆる側面に浸透しています。しかし、AI技術の広範な応用は、潜在的なリスクも生み出しており、その中でもディープフェイク技術が社会的な懸念を引き起こしています。ディープフェイク技術はアルゴリズムを利用して非常にリアルな偽のコンテンツを生成し、大量の現実データから学習することで、人物やシーンに非常に似た動画や画像を生成します。この技術はAIの潜在能力を示していますが、同時に詐欺行為を生み出す可能性もあります。例えば、最近では張文宏医師の容姿と声を詐称してライブコマースを行った事例が発生しました。偽造…

先日、中関村フォーラムの一環として開催された第12回デジタル金融とテクノロジー金融会議において、アリババ傘下のZOLOZ（ゾロズ）のDeepfake検出ソリューションが「金融テクノロジー技術革新と応用事例」に選出されました。ZOLOZは傘下の天機ラボを基盤に、業界で初めて大規模で高品質なマルチモーダルDeepfakeデータセットを構築しました。これは百万を超えるマルチメディアコンテンツを合成しており、現実世界の金融リスク管理環境におけるDeepfake攻撃サンプルを十分にシミュレートし、金融分野における既存のDeepfake検出技術を評価するための基盤となります。

Meta社は最近、Video Sealと呼ばれる新しいニューラルウォーターマークシステムを発表しました。このシステムは、AI生成ビデオの識別を目的としており、編集されたビデオでもそのソースを効果的に追跡できます。このウォーターマークは視聴者には見えませんが、検出することでビデオの真偽を検証できます。Meta社は、Video Sealウォーターマークモデル、研究論文、トレーニングおよび推論コードを含む、このシステム全体をMITライセンスのオープンソースソフトウェアとして公開しています。さらに、Meta社は…

最近、ネット上で張文宏医師になりすました人物がプロテインバーを販売するライブコマースの動画が拡散され、大きな注目を集めています。多くのネットユーザーが「張文宏医師は本当にプロテインバーを販売しているのか？」と疑問を抱いています。さらに懸念されるのは、高齢者の視聴者の一部が動画を信じてしまい、商品を注文し、ソーシャルメディアで情報を拡散していることです。報道機関の調査によると、動画の張文宏医師はAI技術を用いたディープフェイクであることが判明しました。これに対し、張文宏医師は、このようななりすまし販売アカウントは一つだけではないと声明を発表しました。

ディープフェイクは今やあらゆる場所に浸透しています。生成AIの普及に伴い、オンライン上の偽情報は爆発的に増加しました。認証プラットフォームSumsubの統計によると、2023年から2024年にかけて、世界のディープフェイク数は4倍に増加。2024年には、ディープフェイクが不正行為全体の7％を占め、なりすまし、アカウント乗っ取りから高度なソーシャルエンジニアリング攻撃まで、あらゆるものにその影が見られます。Metaはディープフェイクに対抗するため、

ディープフェイク技術の普及に伴い、オンライン上の虚偽情報が急増しています。ID検証プラットフォームSumsubのデータによると、2023年から2024年にかけてディープフェイクの数は4倍に増加し、2024年にはすべての詐欺行為の7％を占めています。これには、なりすまし、アカウント乗っ取り、高度なソーシャルエンジニアリング攻撃など、さまざまな形態が含まれます。この課題に対処するため、Meta社は最近、AI生成による…

生成AIの商業化に伴い、オンライン上の虚偽情報が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、世界的なディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクが全ての不正行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング活動まで、様々な形態に及んでいます。この問題に対処するため、MetaはAI生成動画に透かしを挿入する新しいツール「Meta Video Seal」を発表しました。

最近、スタンフォード大学のコミュニケーション学教授ジェフ・ハンコック（Jeff Hancock）氏が、政治的ディープフェイク動画に関する事件で、人工知能を用いて虚偽の証言を作成したとして告発され、大きな注目を集めています。この事件はミネソタ州司法長官キース・エリソン（Keith Ellison）氏によって提起され、ミネソタ州で最近可決された政治的ディープフェイク動画を禁止する法律に関連しており、表現の自由に対する脅威となる可能性があると懸念されています。画像の注記：画像はAIによって生成され、Midjourneyという画像権利サービスプロバイダーから許可を得ています。

ミネソタ州で「ディープフェイク技術による選挙への影響」に関する法律をめぐる連邦訴訟で新たな論争が浮上した。原告弁護士団は最新の法廷文書で、この法律を支持する宣誓供述書に、人工知能によって生成されたテキストが含まれている可能性があると主張している。画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney。ミネソタ州改革者によると、同州司法長官キース・エリソン（Keith Ellison）はスタンフォードソーシャルメディアラボに…

2024年のアメリカ大統領選挙後、オンライン上での虚偽情報の拡散が驚異的な速度で拡大し、アメリカ国民の候補者、そして公衆衛生、気候変動、移民問題に関する見解に深刻な影響を与えています。生成系AIの発展と、ディープフェイクコンテンツ生成能力、そして「幻覚」的事実を生み出す傾向は、この問題をさらに悪化させる可能性があります。画像出典：AI生成画像、画像ライセンス提供元Midjourney この課題に対処するため、ノルウェーのスタートアップ企業Factiverseが誕生しました。同社は10…

シンガポールは最近、サイバーセキュリティに関する一連の重要な発表を行い、特に人工知能（AI）システムのセキュリティガイドラインと、選挙広告でのディープフェイク技術の使用禁止に関する法案を発表しました。これらの措置は、組織がAIの開発と展開における潜在的なリスクを軽減し、技術の安全性を確保することを目的としています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyから提供されています。シンガポールサイバーセキュリティ局（CSA）が発表した『AIシステムセキュリティガイドライン』は、「安全な設計」の理念を強調しており、…

Zoomはまもなく、ユーザーを驚かせる新機能を発表する準備をしていますが、その全貌を目にするのは来年になるかもしれません。同ビデオ会議大手は年次開発者会議で、ユーザーのビデオをAI駆動のリアルなデジタルアバターに変換できる機能を発表しました。このデジタルアバターは、頭部だけでなく、上腕と肩まで含み、まさにデジタル分身と言えるでしょう。ユーザーはデジタルアバターに話させたい内容を入力するだけで、Zoomがアバターの口の動きと音声の同期を生成します。実に素晴らしい機能ですね？Zoomの最高製品責任者Sm

AI技術は、便利さをもたらす一方で、リスクも伴う両刃の剣です。これらのリスクをより適切に管理するために、カリフォルニア州知事ギャビン・ニューサム（Gavin Newsom）は最近、AI生成コンテンツ、特にディープフェイク（deepfakes）現象を規制する9法案に署名しました。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyによって提供されています。これらの法案の中で、SB1047法案は特に注目に値します。この法案は、AI開発者が安全対策を講じることを義務付けています。

先日、カリフォルニア州知事ギャビン・ニューサムは、人工知能分野の課題に対処する8つの法案に署名しました。これらの法案は、AIシステムによる生存リスク、AI画像生成によるディープフェイクヌード、ハリウッドスタジオによる故人俳優のAIクローン作成などの問題に対処することを目的としています。その中で、SB926はディープフェイクヌードの作成と拡散を犯罪とし、他人に似たAI生成ヌードを使用して脅迫することを違法行為と規定しています。SB981法案は、ソーシャルメディアプラットフォームにユーザーからの通報チャネルの設置を義務付け、通報内容は…

ガビン・ニューサムカリフォルニア州知事は最近の署名式で、AI業界に対する全国でも比較的厳しい一連の新法を発表しました。今回の新法は5項目からなり、そのうち3項目は選挙に影響を与える可能性のあるAIディープフェイク技術を対象とし、残りの2項目はハリウッド俳優の音声と肖像のクローン作成に関連しています。画像出典：AI生成画像、画像ライセンスプロバイダーMidjourneyによる新法AB2655は、大規模オンラインプラットフォームに...

先日、いくつかの主要な米人工知能企業がホワイトハウスに対し、AI製品が非自発的なディープフェイクポルノや児童性的虐待コンテンツの生成に使用されるのを阻止することを改めて厳粛に約束しました。Adobe、Anthropic、Cohere、Microsoft、OpenAI、オープンソースのウェブデータリポジトリであるCommon Crawlの6社が、この拘束力のない誓約に署名し、有害な性的暴力画像の生成への悪用を防ぐことを目指しています。

今日、ジェネレーティブAI（生成AI）の発展により、ディープフェイクや合成メディアがますます普及しています。この課題に対処するため、多くの組織がコンテンツの起源を追跡するためのデジタルウォーターマーク技術の改良に努めています。まだ完全な成功を収めた組織はありませんが、「コンテンツの起源と真正性に関する連合」（C2PA）はメンバーを増やし続けています。C2PAは、アマゾンが新たな指導委員会メンバーに加わったと発表しました。C2PAはLinux Foundation傘下のオープンな技術標準団体です

人工知能技術の進歩に伴い、偽造画像や動画の作成が容易になり、ディープフェイク現象が深刻化しています。これらの虚偽コンテンツを見抜くことは、喫緊の課題となっています。最近、ビンガムトン大学の研究チームがこの問題について深く掘り下げ、周波数領域解析技術を用いてAI生成画像の特徴を明らかにし、虚偽情報の識別を支援する成果を上げました。画像引用元：AI生成画像、画像ライセンスプロバイダーMidjourney　本研究は電気・コンピュータ工学科の…