今日開催された「今日頭条プラットフォームガバナンス公開日」において、安全運営責任者の閻夢茹氏が、2024年のプラットフォームガバナンスの成果と2025年の計画を発表しました。彼女は、AI技術によって低品質コンテンツの盗用が容易になり、「アリババAI」などのツールによって同質的なコンテンツの蔓延が加速していると指摘しました。データによると、2024年には同質的なコンテンツ781万件を処理し、違反アカウント6万3000件を凍結しました。また、地方組織による同質的なデマの拡散に関し、警察と協力して2件の立件を行い、6件のガバナンスに関する公告を発表しました。閻氏は、AIによる記事の盗用は今後ますます複雑化すると分析しています。

廈門市公安局は最近、AI技術を利用して虚偽の動画を合成した事件を解決しました。任某（32歳、湖北省出身）容疑者は虚偽情報の拡散容疑で逮捕されました。任容疑者はAI技術を用いて虚偽のコンテンツや画像を自動生成し、動画を合成して今日頭条に投稿。広東省のある高齢者が殴打され、孫が川に飛び込んで自殺したというデマ動画を拡散し、大きな注目を集めました。目的はフォロワー数とトラフィックを増やし、利益を得ることでした。任容疑者はAI技術で動画を合成するのにわずか2、3分かかると供述しています。警察は任容疑者に対し刑事強制措置を取りました。この事件は、AI技術の悪用による深刻な結果を警告するものです。