最近、旧金山市の副市長弁護士であるYvonne Meré氏が、人工知能技術を用いてディープフェイクポルノを作成し、女性や少女の写真を無断で裸の写真に加工した16のウェブサイトを相手取り、訴訟を起こしました。この前例のない法的措置は、特に「脱衣アプリ」を利用して同級生の画像を操作する男子高校生の間で増加している有害な傾向に対処することを目的としています。
画像出典：画像はAIによって生成され、画像ライセンスプロバイダーはMidjourneyです。
『ニューヨーク・タイムズ』紙の報道によると、訴えられた16のウェブサイトは、今年上半期に2億回もアクセスされていました。これらのウェブサイトを運営する会社は、カリフォルニア州、ニューメキシコ州、英国、エストニアなどに所在しています。記者がこれらのウェブサイトの担当者に連絡を試みましたが、返答がないか、インタビューに応じる人物はいませんでした。中には「彼女を脱がせたい？」という文言でサービスを宣伝しているウェブサイトや、女性の写真を裸の写真を入手するよう直接促しているウェブサイトもありました。
注目すべき点として、これらのウェブサイトは通常、最初の画像処理を無料で提供していますが、それ以降の処理には料金が必要で、支払い方法は暗号通貨またはクレジットカードです。使用されているディープフェイク技術は、本物のポルノ画像と児童虐待画像でトレーニングされたAIモデルに依存しており、本物そっくりな裸の写真を生成します。サンフランシスコ市検事のDavid Chiu氏は、関係者の罰則がほとんどないことを強調し、一度画像が拡散されると元のウェブサイトを見つけるのが非常に困難になり、被害者が法的救済を求めるプロセスがさらに複雑になることを指摘しています。
社会問題に焦点を当てた法律事務所の責任者であるSara Eisenberg氏は、青少年に技術の安全な使用方法を教育するだけでは不十分だと指摘しています。いかなる写真でも無断で加工される可能性があり、従来の保護策はもはや効果がありません。Eisenberg氏は、「子供たちがインターネットやソーシャルメディアの使い方を熟知していても、これらのウェブサイトを利用して非常に悪質な行為をする者たちを止めることはできません」と述べています。
この訴訟は、これらのウェブサイトの閉鎖を求めるだけでなく、ディープフェイクポルノの継続的な作成を永久的に禁止し、民事罰金と弁護士費用を請求することを求めています。訴状によると、これらのウェブサイトは、州および地方の報復ポルノ法、児童ポルノ法、そして違法かつ不公正な商業行為を禁止するカリフォルニア州の不正競争法に違反しています。
Meré氏は、『ニューヨーク・タイムズ』紙でディープフェイク画像の危険性に関する記事を読んだ後、すぐにEisenberg氏に連絡を取り、訴訟を進めるためにChiu氏からの支援を求めました。Chiu氏は、テイラー・スウィフトから普通の高校生まで、ディープフェイクの裸の写真が蔓延しており、ほとんど誰も罰せられないことを指摘しました。専門家は、ディープフェイクポルノが被害者の精神的健康、評判、大学や仕事の見込みに深刻な影響を与えることを警告しています。
Chiu氏も、この方法では新しいウェブサイトが「いたちごっこ」のように次々と現れる可能性を認めていますが、問題の進化に合わせて、より多くの新しいウェブサイトを訴訟の対象に含めることを期待しています。人工知能産業の中心地であるサンフランシスコは、まさにこの法的闘争に適した場所です。Chiu氏は、人工知能産業の貢献は肯定的である一方で、ディープフェイクポルノの出現は解決すべき「闇の部分」であると指摘しています。
要点：
🌐 サンフランシスコが16のディープフェイクポルノサイトを訴追し、女性のプライバシーと権利保護を目指しています。
💰 訴訟はこれらのウェブサイトの閉鎖と、民事罰金および弁護士費用の支払いを求めています。
📉 ディープフェイクポルノは、被害者の精神的および社会生活に深刻な影響を与え、法的責任追及は困難です。
