最近，一起引人注目的案件在英国引发了广泛关注。一名27岁的男子休・尼尔森（Hugh Nelson）因利用人工智能将儿童的普通照片转换成性虐待影像而被判处18年监禁。图源备注:图片由AI生成，图片授权服务商Midjourney尼尔森来自博尔顿，他使用了一款名为 Daz3D 的应用程序，创建了3D “角色”，这些角色都是基于无辜儿童的照片。令人震惊的是，尼尔森并不是独自行动，他还收到了来自他人委托的图像。有些人甚至将自己与儿童的照片提供给他，要求他制作这些图像。据《卫报》报道，尼尔森

最近，互联网观察基金会（IWF）发出警告，称人工智能(AI)生成的儿童性虐待图像(CSAM)在开放网络上的出现越来越频繁，已达到了一个 “临界点”。这家安全监督机构表示，过去六个月内，他们发现的 AI 制作的非法内容数量已经超过了前一年的总和。图源备注：图片由AI生成，图片授权服务商MidjourneyIWF 的临时首席执行官德里克・雷・希尔（Derek Ray-Hill）表示，这些图像的复杂程度显示，所使用的 AI 工具可能是基于真实受害者的图片和视频进行训练的。他指出:“最近几个月的情况表明，这

LAION发布Re-LAION-5B，全球首个全面清除CSAM链接的AI训练数据集，旨在解决儿童性虐待材料（CSAM）问题。该数据集在LAION-5B基础上进行了重大改进，主要分为Re-LAION-5B Research和Research-Safe两个版本，共移除2236个CSAM链接，其中1008个来自儿童保护组织名单。数据集包含55亿对文本和图像，旨在帮助清理现有数据集，移除所有匹配的CSAM内容。LAION希望通过此举为网页规模数据集的安全标准设定新基准，解决AI训练数据集中CSAM问题的严重性，尤其是AI生成CSAM内容的增长对真实案件调查和社交媒体平台报告数量的影响。

安格利亚鲁斯金大学的报告揭示，AI生成的儿童性虐待图片需求在黑暗网络上迅速增长。研究者德安娜・达维博士和萨姆・伦德里根教授分析了过去12个月的黑暗网络论坛聊天记录，发现在线犯罪分子利用AI技术制作儿童色情材料的兴趣在增加。他们通过自学和分享经验，在线创建AI生成的虐待图像。研究指出，AI技术带来的问题是，执法机构在理解和应对AI生成的材料时面临巨大挑战。使用AI生成此类材料不仅加剧了对儿童的伤害，也使得犯罪活动更加隐蔽和复杂。这一现象反映了全球在线儿童虐待威胁的加剧，需要引起足够重视。

英国互联网观察基金会(IWF)报告指出，AI生成的儿童性虐待内容(CSAM)在网络上的激增令人担忧。在他们春季30天的调查中，黑暗网络论坛上有3,512部利用AI制作的CSAM，较前一年同期增加17%。报告详细指出，内容真实度和严重程度均有上升，其中涉及极端或露骨性行为的比例有所增加。当前合成视频虽未达高度逼真，技术进步令其快速逼近现实。此增长趋势导致两个主要问题：一是追踪技术发展使得监管和执法难题加深，尤其是在小型AI程序方面；二是缺乏明确法律界定，尤其是在涉及AI生成内容的犯罪范畴。虽然这个问题在技术上日益复杂，FBI已表示会严肃对待指控，举报官称鼓励受害者立即报告。

["学生利用人工智能制作涉嫌儿童性虐待图像，逼真程度令人震惊。","专家呼吁紧急行动，建议学校阻止儿童性虐待材料传播。","图像质量媲美专业儿童照片，儿童形象逼真可能传播至互联网。","儿童保护组织建议建立更好系统，预防类似有害行为。"]

["互联网观察基金（IWF）警告儿童性虐待图像问题可能加剧。","报告呼吁政府和技术提供商迅速控制生成深度伪造照片的人工智能。","生成式人工智能系统可能导致虚拟儿童深度伪造，扩大潜在受害者范围。","加强法律应对人工智能生成滥用，特别针对欧盟提出建议。"]

["北卡罗来纳州的一名儿童精神病学家因制作、拥有和运输儿童性虐待材料（CSAM）而被判入狱。","儿童精神病学家戴维・塔图姆因使用人工智能软件对患者进行秘密录音并制作非法图像和视频被控。","检察官称该精神病学家的行为对儿童造成了伤害，被判处40年监禁和30年监管释放。"]