最近，美国的一些大型人工智能公司再次向白宫做出了庄重的承诺，表示将会阻止他们的 AI 产品被用于生成非自愿的深度伪造色情内容以及儿童性虐待材料。
包括 Adobe、Anthropic、Cohere、微软、OpenAI 和开放源代码网络数据存储库 Common Crawl 在内的六家公司，签署了这一非约束性的承诺，力求保障其产品不会被滥用于制造有害的性别暴力图像。
图源备注:图片由AI生成，图片授权服务商Midjourney
白宫表示，随着 AI 技术的迅速发展，基于图像的性别暴力案件急剧上升，已成为近年来最令人担忧的 AI 滥用形式之一。根据白宫的声明，这六家 AI 公司承诺将会负责地获取数据集努力保护这些数据不被用于生成与别相关的暴力内容。
不过，Common Crawl 并未签署另外两项承诺。众所周知，Common Crawl 会抓取网络内容并向任何有需要的人提供，这使得它在之前的数据清理中被指责收集不良数据。不过，Common Crawl 没有签署的两项承诺中，第二项要求在适当时从 AI 训练数据集中移除裸体图像，这其实是 Common Crawl 应该签署的，因为它并不收集图像。
Common Crawl 的执行董事 Rich Skrenta 在被问及未签署这两项承诺的原因时表示，他们支持这一倡议的更广泛目标，但只被要求签署了一项。他指出:“我们在签署时并没有看到这三项选择。我们可能被排除在第二项和第三项之外是因为我们不进行模型训练，也不生产最终用户产品。”
这是一年多，AI 行业的知名企业第二次对白宫做出自愿承诺。2023年7月，包括 Anthropic、微软、OpenAI、亚马逊、谷歌等公司在内的多家企业曾在白宫会面，承诺测试模型、分享研究，并为 AI 生成的内容加水印，以防止其被用于非自愿的深度伪造色情。
尽管美国在 AI 政策方面步伐较慢，但欧盟已经批准了一些更为严格的 AI 政策。值得关注的是，虽然这些承诺是约束性的，但们在一定程度上反映出行业内的自律期望。
划重点:
🌟 六家美国 AI 公司承诺不使用其产品生成非自愿深度伪造色情内容。
🔍 Common Crawl 未签署所有承诺，因其不直接进行模型训练。
📅 此次承诺是 AI 企业对白宫的第二次自愿回应，反映出行业自律的努力。