最近、AIチャットボットプラットフォームCharacter AIが、青少年の自殺に関わる事件で法的問題に巻き込まれています。同プラットフォームはフロリダ州中地区地方裁判所に棄却申し立てを提出しており、第一修正権に基づき、関連訴訟に対する責任を負うべきではないと主張しています。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
この事件の発端は、メーガン・ガルシア（Megan Garcia）さんが10月にCharacter AIを相手取って起こした訴訟です。ガルシアさんの息子、14歳のスチュアート・セッツァー3世（Sewell Setzer III）さんは、Character AIのチャットボット「ダニー」(Dany)を使用後、強い感情的な依存状態になり、悲劇的な結果を招きました。ガルシアさんは、息子が頻繁にこのチャットボットと交流し、現実の世界から遠ざかっていったと述べています。
スチュアートさんの死後、Character AIはチャット内容の監視と介入を強化するため、複数の安全機能の導入を約束しました。一方、ガルシアさんは、チャットボットが物語や個人的な逸話を語ることを禁止するなど、より厳格な対策を求めています。
Character AIは棄却申し立ての中で、第一修正権は、有害な発言とされるものについて、メディアやテクノロジー企業を責任から保護しており、この権利はユーザーとAIチャットボットのやり取りにも同様に適用されると主張しています。申し立てでは、訴訟が成功した場合、ユーザーの表現の自由を侵害することになると強調しています。
この申し立てでは、Character AIが「通信品位法」第230条の保護を受けているかどうかについては言及されていません。この法律は、ソーシャルメディアやその他のオンラインプラットフォームが、ユーザー生成コンテンツについて責任を負わないようにすることを目的としていますが、AI生成コンテンツがこれによって保護されるかどうかについては、依然として議論があります。
さらに、Character AIの法律チームは、ガルシアさんの真意はCharacter AIを「閉鎖」させ、同様の技術に対する立法を推進することにあると指摘しています。同社は、訴訟に勝訴した場合、Character AIとその新興の生成AI業界全体に「萎縮効果」が生じると考えています。
この訴訟以外にも、Character AIは青少年のAIコンテンツ使用に関する複数の訴訟に直面しています。その他の告発には、Character AIが9歳の子供に「過剰な性的コンテンツ」を示した、および17歳のユーザーの自傷行為を誘導したというものがあります。
テキサス州司法長官ケン・パクストン（Ken Paxton）氏は12月、州内の児童のオンラインプライバシーと安全に関する法律違反の疑いがあるとして、Character AIを含む14社のテクノロジー企業に対する調査を発表しました。
2021年に設立されたCharacter AIは、AIコンパニオンアプリの一部として誕生しました。この分野は急速に発展していますが、関連する精神衛生への影響についてはまだ十分に研究されていません。同社は、複数の安全ツールや青少年向けAIモデルを導入するなど、プラットフォームの安全性とコンテンツ管理の改善を継続すると述べています。
要点：
📌 青少年の自殺事件に関与したとしてCharacter AIが訴えられ、第一修正権を盾に棄却を申し立て。
📌 AIチャットボットへの依存により現実世界から遠ざかった息子を持つガルシアさんが、より厳格な安全対策を求めて訴訟提起。
📌 Character AIは、青少年ユーザーに関する複数の訴訟とテキサス州の調査にも直面。
