面对生成式AI技术滥用引发的deepfake 色情问题，微软近日采取了重要行动。该公司宣布与反复仇色情组织 StopNCII 合作，为受害者提供工具，帮助他们在 Bing 搜索引擎上清除这些令人不安的合成裸体图像。
具体来说，微软将协助受害者在自己的设备上制作这些图像的数字指纹或"哈希值"。StopNCII 的合作伙伴将利用这些指纹，在各大平台上彻底清除相关图像，包括 Facebook、Instagram、Bing 等。
图源备注：图片由AI生成，图片授权服务商Midjourney
这是一个关键性的举措。微软此前虽然提供了直接举报此类图像的渠道，但效果并不理想。正如该公司在博客中所说，单靠用户举报难以充分应对图像通过搜索引擎被广泛访问的风险。
值得注意的是，谷歌搜索引擎的处理措施似乎还有待加强。根据媒体报道，谷歌尚未与 StopNCII 合作，而其用户长期以来就反映了该问题的严重性。
生成式AI带来的deepfake 色情问题确实令人担忧。目前，美国还没有专门针对此类行为的联邦法律，只能依赖各州和地方的相关法规进行应对。不过，像旧金山检察官这样提起诉讼的尝试，或许会为制定更有力的法律奠定基础。