近日，英国互联网观察基金会（IWF）发布了一项令人不安的报告，揭示了人工智能生成的儿童性虐待内容(CSAM)在网络上的激增。随着 AI 技术的普及，现在几乎任何人只需拥有一台电脑和一点技术知识，就能生成逼真的深度伪造视频。
IWF 在今年春季进行的一项为期30天的调查中发现，黑暗网络论坛上共有3，512个利用人工智能制作的儿童色情内容，其中大部分都极具真实感。与2023年秋季的类似调查相比，这一数字增长了17%。更让人担忧的是，最近发布的内容中，涉及更加极端或露骨的性行为的比例也有所上升。
图源备注：图片由AI生成，图片授权服务商Midjourney
IWF 的首席技术官丹・塞克斯顿表示:“真实性在提高，内容的严重性也在增强。这是我们不希望看到的趋势。” 尽管当前完全合成的视频仍显得不够逼真，但随着技术的快速发展，这种情况可能很快会改变。虽然目前绝大多数的掠夺者仍然依赖于现有的真实视频素材进行深度伪造，但这种趋势无疑给幸存者造成了持久的伤害。
此外，报告还指出，AI 技术的快速发展使得监管机构、科技公司和执法机构面临新的挑战。去年夏天，美国七家大型 AI 公司签署了一项公众承诺，承诺遵循一系列伦理和安全指南。然而，他们并不掌控那些散落在网络上的众多小型 AI 程序，后者通常是免费的，容易获取。
这种新型的儿童色情内容可能会使得追踪交易这些内容的恋童癖者变得更加困难。新生成的伪造材料往往可以逃避社交媒体平台和执法机构的自动扫描，这让人对如何应对这种情况感到困惑。美国司法部已对至少一名利用人工智能制作儿童色情内容的男子提出了指控，但在法律上如何界定此类犯罪仍然存在灰色地带。
FBI 表示，它会认真对待儿童犯罪的每一个指控，并与各地执法机构合作调查。特别呼吁受害者，如果您或您认识的人是儿童剥削的受害者，请立即联系网络小组热线。
划重点:
📈 近期报告显示，AI 生成的儿童性虐待内容在黑暗网络上急剧上升，较之前增加了17%。
🛑 伪造内容的真实性和严重性提升，给幸存者造成了更大的伤害与困扰。
⚖️ 法律对于 AI 生成内容的界定仍存在灰色地带，执法机构面临新的挑战。