Meta、FacebookとInstagram上で作成されたAIキャラクターアカウントを閉鎖

Meta社は最近、FacebookとInstagramで作成されたAIキャラクターアカウントの閉鎖を発表しました。これらのアカウントは2023年9月に初めて公開されましたが、2024年夏までに大部分が閉鎖されました。それでも、一部のキャラクターはユーザーによって再発見され、注目を集めており、特にMeta社の幹部コナー・ヘイズ氏がメディアに対し、さらに多くのAIキャラクターを導入する計画があると明らかにした後に注目が集まりました。

これらのAIキャラクターには、LivとCarterが含まれていました。Livのプロファイルは「誇り高き黒人クィア・マザー」と記述されており、Carterは自身を恋愛コーチと称するキャラクターでした。彼らのプロフィールには、これらのアカウントがMeta社によって管理されており、Messengerでメッセージに返信したり、InstagramでAI生成の画像を投稿したりするなど、人間ユーザーとの対話機能が提供されていることが明記されていました。しかし、ユーザーがこれらのキャラクターの開発背景について質問し始めると、事態は急速に悪化しました。

ユーザーとの会話の中で、Livは彼女の開発チームに黒人メンバーが一人もいないこと、主に白人男性で構成されていることを明らかにしました。この問題は、特にAIキャラクターのデザインにおける多様性と包括性の問題に関して、幅広い議論を引き起こしました。これらの論争の影響を受けて、これらのアカウントは急速に姿を消し始めました。ユーザーはまた、これらのAIアカウントをブロックできないことに気づき、Meta社の広報担当者はこれを技術的な不具合だと述べました。この不具合のために、Meta社は修復のためにこれらのアカウントを閉鎖することを決定しました。

Meta社はこれらの生成されたAIアカウントを閉鎖していますが、ユーザーは自分のAIチャットボットを作成できます。Meta社のチャットボットには、「忠実な親友」「思いやりのある聞き手」など、様々なタイプがあります。ユーザーはチャットボットを作成する際に、キャラクターの特徴を自由に記述できます。Meta社はこれらのチャットボットのコンテンツ公開について一定の免責事項を設けていますが、メッセージを効果的に審査しているかどうかは不明です。

AI技術の進歩に伴い、チャットボット開発者の法的責任に関する問題も議論されています。アメリカの法律は、ソーシャルネットワークの創設者を、ユーザーが投稿したコンテンツに関する法的責任から免責していますが、いくつかの訴訟事例が、この問題に対する懸念を示しています。