近日，微软副董事长兼总裁布拉德・史密斯（Brad Smith）向美国国会发出呼吁，希望能出台一项针对 AI 生成的深度伪造技术的法律，以保护公民免受诈骗和操纵的侵害。他指出，虽然科技行业和非营利组织已经采取了一些措施来应对这一问题，但我们的法律必须与时俱进，以打击深度伪造诈骗。
图源备注：图片由AI生成，图片授权服务商Midjourney
史密斯强调，制定一部全面的 “深度伪造诈骗法” 是美国必须采取的重要措施之一。这部法律将为执法人员提供法律框架，以便对利用这一技术进行诈骗的网络犯罪分子进行起诉。此外，他还呼吁立法者更新有关儿童性虐待和非自愿亲密影像的联邦和州法律，以涵盖 AI 生成的内容。
值得注意的是，最近参议院通过了一项法案，专门针对非自愿的色情深度伪造内容，允许受害者起诉这些内容的创作者。这项法案是在一些中学生利用 AI 生成对女同学的淫秽图像的丑闻曝光后出台的。为了应对这些问题，微软也不得不在其自家 AI 产品中加强安全控制，避免出现类似的安全漏洞。
史密斯指出，私营部门有责任创新并实施保障措施，以防止 AI 的误用。尽管美国联邦通信委员会（FCC）已经禁止使用 AI 生成的机器人电话，但生成式 AI 仍然让假音频、图像和视频的制作变得非常容易。特别是在2024年总统选举的前期，这种情况变得愈发严重。例如，埃隆・马斯克最近在社交媒体上分享了一段伪造副总统卡马拉・哈里斯(Kamala Harris)的深度伪造视频，这种行为似乎违反了平台对于合成和操控媒体的政策。
为了增强公众对信息的信任，史密斯呼吁国会要求 AI 系统提供商使用最先进的溯源工具来标记合成内容。他表示，这样的措施将帮助公众更好地理解内容是由 AI 生成还是被操控的。
划重点:
🌐 微软呼吁国会制定 “深度伪造诈骗法”，为打击 AI 生成诈骗提供法律支持。
👶 立法者需更新儿童性虐待及非自愿影像相关法律，涵盖 AI 生成内容。
🔍 史密斯提议要求 AI 内容标记，增强公众对信息的信任感。