今では、AIで生成された虚偽情報は珍しくありませんが、ある男性がAI技術を使って動画を合成し、虚偽情報を流布した結果、逮捕されました。これは、AIツールを使用する際には注意深く、悪影響を避けるべきであるという警鐘となっています。
報道によると、今年6月、廈門市公安局は通報を受けました。今日頭条で、70歳代の男性が暴行を受け、孫がそのショックで河に飛び込んで自殺したという内容の動画が投稿されていたのです。加害者は有罪判決を受けたとのことでした。この動画は投稿されるとすぐに大きな注目を集めました。
しかし、警察の捜査の結果、これは完全にデマであることが判明しました。そして、この動画を投稿したアカウント「小逸看世界」の所有者、任某（32歳、湖北省出身）は6月13日の夜に逮捕されました。
任某は自供の中で、AI技術を使えば2、3分で動画を合成できると話しました。彼はまず、人目を引く見出しをインターネットで探し、その後、ライティングアプリを使って虚偽のコンテンツを自動生成し、内容に合わせて画像を自動生成し、最後にそれらを組み合わせて動画を作成し、ソーシャルメディアプラットフォームで公開していました。
彼の目的は、アクセス数を増やし、フォロワーを増やし、動画のアクセス数に応じて収益を得ることでした。現在、任某は尋ね違事件罪の容疑で、廈門市公安局によって刑事強制措置が取られています。
