TikTokは最近、AI技術を利用して虚偽の内容を作成し、高齢者のインタラクションを騙し取る行為を厳しく取り締まることを発表しました。TikTokはクリエイターによるAI技術の創作補助を推奨していますが、すべてのコンテンツはプラットフォームの規範に従う必要があり、生成AI技術を利用して科学的事実に反する、虚偽の、またはデマを広めるコンテンツの投稿を厳しく禁じています。
発表によると、一部のアカウントはAI技術を使用して小僧、軍人、AI女性などの仮想イメージを不正に使用し、特定の言葉で高齢者を誘導していいね、フォロー、コメントを行い、さらには利益誘導を行っていました。これらの行為はプラットフォームのルールに違反しており、TikTokは関連アカウントに対して、違反動画の削除、投稿および収益化権限の取消、アカウントの凍結など、厳格な処罰を行いました。
TikTokは、いくつかの典型的な違反行為を列挙していますが、これらに限定されません。
1. 小僧のイメージを生成し、迷信的な内容を利用して高齢者のインタラクションを騙し取る。
2. 軍人のイメージを生成し、高齢者の子供への思念を利用してインタラクションを騙し取る。
3. AI女性のイメージを生成し、感情的な言葉で高齢者のインタラクションを誘導する。
TikTokは、これらのコンテンツがプラットフォームのルールに重大に違反していると強調し、プラットフォームは技術的手段を用いて長期的な体系的な識別と処理を行うと述べています。さらに、TikTokは「TikTokの人工知能生成コンテンツに関するプラットフォーム規範および業界提言」を発表し、投稿者はAI生成コンテンツを明確に表示し、バーチャルパーソンはプラットフォームに登録する必要があり、技術利用者は実名認証を行う必要があり、また、違反コンテンツの投稿を禁止すると規定しています。
TikTokは、健全で誠実なコミュニティ環境の構築を提唱し、AIを利用して高齢者のインタラクションを騙し取る行為を継続的に取り締まり、高齢者の権利を保護し、安全で信頼できるオンライン環境を創造すると約束しています。違法犯罪に該当する行為については、TikTokは関係当局と積極的に協力して取り締まるとも述べています。
