フロリダ州で、人工知能（AI）を使って生成された児童ポルノコンテンツの作成と配布に関与したとして、男性が逮捕され、最大20件のわいせつ罪に問われています。この事件は、生成AIの悪用に対する懸念を広く引き起こしています。

刑務所、容疑者

CBS12ニュースによると、逮捕された男性はフィリップ・マイケル・マッコークル（Phillip Michael McCorkle）氏で、ベロビーチの映画館で働いていました。先週、同映画館で逮捕され、テレビ局の撮影クルーがその劇的な瞬間を捉えました。マッコークル氏は制服を着て、手錠をかけられて連行される様子が映し出され、衝撃的な映像となっています。

この逮捕劇の背景には、マッコークル氏がソーシャルアプリKikで、AI画像生成ツールを使って作成した児童ポルノ画像を投稿したという複数の通報が、インディアンリバー郡保安官事務所に寄せられていたことがあります。この逮捕は、同郡の児童ポルノ犯罪対策の一環ですが、生成AIを利用した犯罪手法は衝撃的です。

生成AIの普及に伴い、このような児童ポルノコンテンツの蔓延は各レベルの立法者を懸念させており、多くの人がこのような不適切なコンテンツの拡散を禁止する法律の制定を推進しています。しかし、これらの法律がどの程度効果を発揮するかはまだ不明です。

昨年、全米行方不明・搾取児童センターは、生成AIによる児童ポルノコンテンツに関する4700件の通報を受けました。懸念されるのは、犯人の中には、生成AI技術を使って実在の児童のディープフェイク画像を作成し、恐喝に利用する者もいることです。スタンフォード大学が2023年に行った研究でも、広く使用されている生成AI画像データセットから数百枚の児童性的虐待画像が見つかりました。

これらの情報を総合的に見ると、ほぼ制御不能な問題であることが分かります。インターネット監視基金会の最高技術責任者、ダン・セクストン（Dan Sexton）氏は、「私たちが見つけたコンテンツは、実際にはオープンソースソフトウェアを使って生成され、ダウンロードされて個人のパソコンでローカルに実行され、その後修正されています。この問題は、解決がさらに困難です」と述べています。

要点：

🛑 フロリダ州の男性がAIで生成された児童ポルノコンテンツ作成に関与し、20件の罪に問われています。

📱 ソーシャルアプリKikで不適切なコンテンツを配布し、世間の注目を集めています。

⚖️ 各レベルの立法者が、このようなコンテンツを禁止する法律の制定を推進していますが、その効果はまだ未知数です。