在美国佛罗里达州，一名男子因涉嫌创建和分发使用人工智能生成的儿童色情内容而被捕，目前面临多达20项淫秽罪名。这起案件引发了对生成式人工智能被滥用的广泛关注。
据 CBS12新闻报道，这名男子名叫菲利普・迈克尔・麦考克尔（Phillip Michael McCorkle），他在佛罗里达州维罗海滩的一家电影院工作。上周，执法人员在该影院逮捕了他，电视台的摄制组恰好拍到了这一戏剧性时刻，麦考克尔身穿制服，被警方铐住带走，场面相当震撼。
这次逮捕的背后，是印第安河县警长办公室接到的多起举报，称麦考克尔在社交应用 Kik 上发布了使用 AI 图像生成器制作的儿童色情图像。这次逮捕是该县一项打击儿童色情犯罪的行动的一部分，然而，麦考克尔利用生成式人工智能进行犯罪的方式让人感到震惊。
随着生成式人工智能的普及，这类儿童色情内容的泛滥也引起了各级立法者的关注，许多人正在推动立法以禁止这类不当内容的传播。然而，目前尚不清楚这些法律措施能在多大程度上遏制这种现象。
去年，国家失踪与被剥削儿童中心收到了4700起关于生成式人工智能儿童色情内容的举报，令人担忧的是，有些罪犯甚至利用生成式 AI 技术制作真实儿童的深度伪造图像，以进行敲诈。斯坦福大学在2023年进行的一项研究也显示，广泛使用的生成式 AI 图像数据集中发现了数百张儿童性虐待图像。
把这些信息结合在一起，我们可以看到一个几乎无法控制的问题。互联网观察基金会的首席技术官丹・塞克斯顿（Dan Sexton）曾表示:“我们发现的内容实际上是通过开源软件生成的，这些软件被下载并在个人电脑上本地运行，然后进行了修改。这个问题要解决起来难度更大。”
划重点:
🛑 一名佛州男子因利用 AI 生成儿童色情内容被捕，面临20项罪名。
📱 他通过社交应用 Kik 分发这些不当内容，案件引发公众关注。
⚖️ 各级立法者正在推动禁止此类内容的法律，但效果尚待观察。