最近，互联网观察基金会（IWF）发出警告，称人工智能(AI)生成的儿童性虐待图像(CSAM)在开放网络上的出现越来越频繁，已达到了一个 “临界点”。这家安全监督机构表示，过去六个月内，他们发现的 AI 制作的非法内容数量已经超过了前一年的总和。图源备注：图片由AI生成，图片授权服务商MidjourneyIWF 的临时首席执行官德里克・雷・希尔（Derek Ray-Hill）表示，这些图像的复杂程度显示，所使用的 AI 工具可能是基于真实受害者的图片和视频进行训练的。他指出:“最近几个月的情况表明，这

["学生利用人工智能制作涉嫌儿童性虐待图像，逼真程度令人震惊。","专家呼吁紧急行动，建议学校阻止儿童性虐待材料传播。","图像质量媲美专业儿童照片，儿童形象逼真可能传播至互联网。","儿童保护组织建议建立更好系统，预防类似有害行为。"]

["互联网观察基金（IWF）警告儿童性虐待图像问题可能加剧。","报告呼吁政府和技术提供商迅速控制生成深度伪造照片的人工智能。","生成式人工智能系统可能导致虚拟儿童深度伪造，扩大潜在受害者范围。","加强法律应对人工智能生成滥用，特别针对欧盟提出建议。"]