2023年9月、AI技術の進歩により、ディープフェイクポルノアプリの利用者が2400万人に急増しました。ソーシャルメディア広告がその増加を2400%も加速させ、懸念が高まっています。技術の発展に伴い、一般の人々も標的となり、法的問題も発生しています。TikTokやMeta Platformsなどの一部のプラットフォームは、キーワードのブロックなどの対策を講じています。
2023年9月、AI技術の進歩により、ディープフェイクポルノアプリの利用者が2400万人に急増しました。ソーシャルメディア広告がその増加を2400%も加速させ、懸念が高まっています。技術の発展に伴い、一般の人々も標的となり、法的問題も発生しています。TikTokやMeta Platformsなどの一部のプラットフォームは、キーワードのブロックなどの対策を講じています。
一枚の写真から数秒で、その人物が話し、動き、演技をする様子を再現できる、それがバイトダンスが発表したOmniHuman-1の魅力です。最近ネットで話題の人工知能モデルは、高精細な動画を生成することで静止画に命を吹き込み、音声と組み合わせることで口パク、全身の動作、豊かな表情を表現します。従来のディープフェイク技術とは異なり、OmniHuman-1は顔の入れ替えだけに留まらず、全身を完全にアニメーション化することができます。
アップル社が最近発表したAIニュース要約機能が、速報ニュースの要約において重大な誤りを繰り返し、ユーザーに大量の虚偽情報が伝わる事態を引き起こしている。この機能の発表以来、多くの報道機関やユーザーから、アップルの技術が未成熟であり、正確な情報を効果的に提供できないとして強い反発を受けている。ワシントンポスト紙のテクノロジーコラムニスト、ジェフリー・ファウラー氏がソーシャルメディアで、アップルのAIがニュース要約において事実を歪めたと投稿したと報じられている。
人工知能技術の急速な発展に伴い、ディープフェイクコンテンツが社会的に大きな注目を集めています。この新たな問題に対処するため、カリフォルニア州は新年早々、AI生成のディープフェイクコンテンツの規制強化を目的とした一連の新しい法律・規制を施行しました。これらの法律は、ソーシャルメディアプラットフォーム、コンテンツ制作者、関連業界に影響を与え、AI技術の応用に関する規制が新たな段階に入ったことを示しています。画像出典:AI生成画像、画像ライセンス提供者Midjourney。重要な法律の一つは、対象となる…
近年、音声アシスタントから自動運転技術まで、AIは私たちの生活のあらゆる側面に浸透しています。しかし、AI技術の広範な応用は、潜在的なリスクも生み出しており、その中でもディープフェイク技術が社会的な懸念を引き起こしています。ディープフェイク技術はアルゴリズムを利用して非常にリアルな偽のコンテンツを生成し、大量の現実データから学習することで、人物やシーンに非常に似た動画や画像を生成します。この技術はAIの潜在能力を示していますが、同時に詐欺行為を生み出す可能性もあります。例えば、最近では張文宏医師の容姿と声を詐称してライブコマースを行った事例が発生しました。偽造…