南方都市報の報道によると、公安部網安局は最近、懸念すべき新たなネット上のデマ拡散の手口を明らかにする典型的な事例を発表しました。広東省広州市の公安機関は、人工知能ツールを利用して大量の虚偽情報を生成した犯罪グループを摘発し、犯罪容疑者6名を逮捕しました。
この犯罪グループは、ネットプラットフォームのトラフィック収益を得ることを目的とし、巧妙に計画された犯罪手法を用いていました。彼らはアルバイトを募集し、自媒体アカウントを登録させ、AIツールを使って人気記事を迅速に書き換え、大量の虚偽情報を投稿しました。統計によると、このグループは累計50万件以上の誘導記事を投稿し、深刻なネット上の情報汚染を引き起こしました。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
調査によると、犯罪者は様々なAIライティングツールを容易に入手していました。これらのツールは多様な機能を備えており、公众号の記事、動画の脚本、ソーシャルメディアの文案を迅速に生成できるだけでなく、記事の続きの作成、内容の書き換え、画像の生成なども可能です。驚くべきことに、一部の会員サービスの費用は非常に低廉で、月額わずか99元、年間契約では半額の割引が適用されます。
中国計算機学会の専門家である方宇氏は、犯罪者がAIツールを使ってデマを生成するコストが極めて低廉になっていると指摘しています。大規模言語モデルアルゴリズムのオープンソース化とAI技術の成熟に伴い、犯罪者がこれらのツールを入手し使用するためのハードルはますます低くなっています。
この事例は、AI技術が悪用される深刻なリスクを露呈しただけでなく、ネット上のデマを撲滅し、ネット上の情報秩序を維持することの緊急性を浮き彫りにしました。公安機関による摘発成功は、AI関連の違法犯罪を抑止するための強力な事例となりました。
