随着2024年美国大选的临近，AI 技术的快速发展引发了越来越多的关注。最近，Axios 的分析显示，至少有26个州已经通过或正在考虑相关法律，以监管选举中使用的生成式 AI。这意味着，在未来的选举中，AI 将不再是一个简单的技术工具，而是一个可能影响投票结果的 “游戏规则改变者”。图源备注:图片由AI生成，图片授权服务商Midjourney众所周知，生成式 AI 有时会被恶意使用，甚至可能造成选民的困惑和压制。弗吉尼亚州的参议员马克・沃纳在一封邮件中指出，AI 技术的滥用风险不容小觑

新加坡近期提出一项新法案，旨在大选期间禁止使用深度伪造技术，以确保信息真实性和选举公正性。随着生成式人工智能技术的发展，深度伪造内容风险增加，该法案针对利用AI和非AI技术制造的虚假内容进行监管，包括视频、音频和图像等。核心规定禁止在选举期间发布虚假描绘候选人言行的在线广告，违规者将面临罚款或监禁。法案还允许对发布虚假内容的个人及社交媒体平台发出纠正指令，要求删除相关内容，并对互联网服务提供商实施选举期间访问限制。此外，候选人有权对可能存在违规行为的内容进行审查，提交声明以证明其真实性。故意提交虚假或误导性声明的候选人将受到处罚。政府计划制定行业规范，要求特定社交媒体平台采取措施防止虚假内容传播。此法案在国会提出，预计将于明年年初或2025年11月前的大选中实施。

美国版权局发布首份报告，强调AI驱动的换脸技术对版权法构成挑战，提出紧迫需要新法律定义并打击未经授权的AI换脸。报告指出，该技术在娱乐、政治领域构成威胁，对普通公民的声誉和生计造成风险。AI换脸技术的普及使得几乎任何人都能低成本地创建逼真虚拟形象，为滥用提供了新可能性。版权局建议，应明确法律责任，保护应至少持续个人一生，提供安全港机制激励在线服务提供商移除未经授权的数字复制品，并建议联邦法律为全国保护基础，同时允许州提供额外保护。报告强调了AI技术发展对法律和道德问题的影响，为新法律起草提供了关键细节。

美国版权局发布报告，强调了人工智能对版权领域带来的新威胁，特别是AI驱动的冒充行为对娱乐、政治和普通公民构成的严重风险。报告指出，几乎任何人都能轻易且低成本地创建虚假数字复制品，这损害了声誉和生计。鉴于这一问题的紧迫性，版权局建议制定新法律，明确界定责任，保护范围至少持续至个人一生，不限于商业用途。版权局呼吁国会加快立法进程，并提出建议以指导相关法案的修订，旨在有效应对AI带来的挑战，借鉴已有成功的立法经验。

微软副董事长布拉德·史密斯向美国国会呼吁，希望出台针对AI生成深度伪造技术的法律，以保护公民免受诈骗和操纵。他指出，虽然行业和非营利组织已采取措施应对这一问题，但法律需与时俱进以打击深度伪造诈骗。史密斯强调，应制定全面的“深度伪造诈骗法”，为执法提供法律框架，起诉利用技术进行诈骗的网络犯罪分子。他还呼吁更新关于儿童性虐待和非自愿亲密影像的法律，涵盖AI生成的内容。最近的参议院法案专门针对非自愿色情深度伪造内容，允许受害者起诉创作者。微软在自家AI产品中加强安全控制，以防止误用，并呼吁AI系统提供商使用先进溯源工具标记合成内容，以增强公众对信息的信任。

["美国50州总检察长联名要求国会成立委员会,研究AI生成儿童色情内容的影响","委员会应提出解决方案,防止AI被用来生成虚假的儿童性虐待内容","呼吁扩大法律范围,明确将AI生成的儿童色情内容列入违法范围"]

["英国国会技术委员会表示，英国政府对 AI 的监管方法落后于欧盟和美国。","议员们呼吁英国政府制定 AI 法案，否则在 AI 监管方面将落后于其他司法管辖区。","议员希望 11 月召开的 AI 安全峰会应包括尽可能多的国家参与。"]

["加州立法机构通过起草人工智能相关法规的决议，呼吁加州对人工智能使用进行监管。","SCR17 的通过显示了加州政府对人工智能发展的关注和重视，希望通过监管措施解决相关问题。","该决议将确保加州成为负责任的人工智能部署和使用的领先者。"]

["人工智能产业链的分散性使责任原则难以落实。","企业呼吁明晰权责边界和分类分级监管，以建立更健康的产业发展环境。","人工智能立法应以监管促进发展，重视安全与发展的平衡。"]