新加坡近期提出一项新法案，旨在大选期间禁止使用深度伪造技术，以确保信息真实性和选举公正性。随着生成式人工智能技术的发展，深度伪造内容风险增加，该法案针对利用AI和非AI技术制造的虚假内容进行监管，包括视频、音频和图像等。核心规定禁止在选举期间发布虚假描绘候选人言行的在线广告，违规者将面临罚款或监禁。法案还允许对发布虚假内容的个人及社交媒体平台发出纠正指令，要求删除相关内容，并对互联网服务提供商实施选举期间访问限制。此外，候选人有权对可能存在违规行为的内容进行审查，提交声明以证明其真实性。故意提交虚假或误导性声明的候选人将受到处罚。政府计划制定行业规范，要求特定社交媒体平台采取措施防止虚假内容传播。此法案在国会提出，预计将于明年年初或2025年11月前的大选中实施。

微软副董事长布拉德·史密斯向美国国会呼吁，希望出台针对AI生成深度伪造技术的法律，以保护公民免受诈骗和操纵。他指出，虽然行业和非营利组织已采取措施应对这一问题，但法律需与时俱进以打击深度伪造诈骗。史密斯强调，应制定全面的“深度伪造诈骗法”，为执法提供法律框架，起诉利用技术进行诈骗的网络犯罪分子。他还呼吁更新关于儿童性虐待和非自愿亲密影像的法律，涵盖AI生成的内容。最近的参议院法案专门针对非自愿色情深度伪造内容，允许受害者起诉创作者。微软在自家AI产品中加强安全控制，以防止误用，并呼吁AI系统提供商使用先进溯源工具标记合成内容，以增强公众对信息的信任。

["👾 深度伪造检测领域初创公司Reality Defender成功融资1500万美元，由DCVC领投。","🛡️ Reality Defender提供多种工具，帮助企业、政府机构等识别和对抗合成媒体。","🌐 除融资外，公司发布了可解释AI功能和实时深度伪造筛查工具。"]