最近，谷歌终于开始行动，旨在打击非自愿的深度伪造内容。特别是在八个月前，泰勒・斯威夫特的深度伪造事件引发了广泛关注，促使科技公司和立法者开始认真对待这一问题。作为生成式人工智能领域的专家，亨利・阿杰德指出，现在已经到了一个重要的转折点，消费者意识的提高以及立法压力的增加，使得科技公司不能再忽视这个问题。
谷歌上周宣布，将采取措施避免色情深度伪造内容出现在搜索结果中。他们将简化受害者请求移除非自愿色情图像的流程，并且会过滤掉相关搜索的所有色情结果，还会删除重复的图像。这意味着，如果有人搜索包含某人姓名的深度伪造内容，谷歌会尽量推送高质量的非色情内容，比如相关新闻文章。阿杰德对此表示赞同，认为这一举措能大幅减少非自愿色情深度伪造内容的曝光率。
不过，虽然谷歌的举措是一个积极的开始，但仍有许多工作要做。今年初，我曾提到过应对非自愿色情深度伪造的几种方式，包括加强监管、引入水印技术和建立保护机制等。然而，水印和保护机制仍处于实验阶段，效果并不稳定，但监管方面的变化则在逐步推进。例如，英国已禁止创建和传播非自愿色情深度伪造内容，导致相关网站如 “Mr DeepFakes” 封锁了英国用户的访问。
在欧盟，AI 法案已经正式生效，要求深度伪造的创作者明确说明这些材料是由人工智能生成的。而美国参议院也通过了 “抵抗法案”，为受害者提供寻求民事救济的渠道，但这项立法在众议院仍需通过才能生效。
阿杰德指出，谷歌虽然能够识别流量高的网站并努力将深度伪造网站从搜索结果中删除，但还可以做得更多。他呼吁大家重新审视非自愿深度伪造的性质，认为这些内容应该像儿童色情一样被严格禁止和处理。他提到，互联网平台需要采取更强有力的措施，确保这样的内容不再被轻易创造或获取。
划重点:
🌟 谷歌开始行动，简化受害者请求移除非自愿色情深度伪造内容的流程。
📜 英国已全面禁止创建和传播非自愿深度伪造内容，推动相关网站采取限制措施。
💡 阿杰德呼吁重新审视非自愿深度伪造内容的性质，强调应像儿童色情一样受到严厉打击。