先日、カリフォルニア州知事ギャビン・ニューサムは、人工知能（AI）分野の課題に対処する8つの法律に署名しました。これらの法律は、AIシステムによる生存リスク、AI画像生成器によるディープフェイクヌード写真、ハリウッドスタジオによる故人俳優のAIクローン作成などの問題に対処することを目的としています。
その中でも、SB926はディープフェイクヌード写真の作成と拡散を犯罪とし、他人に似たAI生成ヌード写真を用いて脅迫する行為を違法と規定しています。SB981は、ソーシャルメディアプラットフォームに対し、自分自身に似たディープフェイクヌード写真の通報窓口を設置することを義務付けています。プラットフォームは調査期間中、関連コンテンツを一時的に非表示にし、確認次第、永久的に削除しなければなりません。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
SB942は、広く使用されている生成AIシステムに対し、そのコンテンツのソースデータにおいて、AIによって生成されたものであることを開示することを義務付けています。例えば、現在、OpenAIのDall-Eによって作成されたすべての画像は、メタデータにAI生成であることを示す小さなタグを追加する必要があります。
さらに、ニューサム知事は選挙に影響を与える可能性のあるAIディープフェイク行為に対処する3つの法律にも署名しました。カリフォルニア州の新しい法律AB2655は、FacebookやXなどの大規模オンラインプラットフォームに対し、選挙関連のAIディープフェイクコンテンツを削除またはマークし、そのようなコンテンツを通報するための窓口を作成することを義務付けています。大規模オンラインプラットフォームが法案を遵守しない場合、候補者や当選者は差止めの救済を求めることができます。
別の法律AB2839は、来たるべき選挙で有権者を欺く可能性のあるAIディープフェイクビデオを投稿または転送するソーシャルメディアユーザーを対象としています。この法律は火曜日に即時発効し、ニューサム知事はイーロン・マスク氏がこの法律に違反する可能性を示唆しました。
最後に、ニューサム知事はカリフォルニア州のメディア業界に新たな基準を設ける2つの法律にも署名しました。AB2602は、映画スタジオが俳優の声や肖像権のAI複製を作成する前に、俳優の許可を得ることを義務付けています。同時に、AB1836は、スタジオが故人のデジタル複製物をその遺産の承諾なしに作成することを禁止しています。
