新加坡近期提出了一项新法案，计划在即将到来的大选中禁止使用深度伪造技术。数字发展与信息部（MDDI）在一份声明中表示，这项法案旨在保障选举过程中信息的真实性和完整性。随着生成式人工智能(Gen AI)技术的快速发展，深度伪造内容的风险也在增加，甚至在新加坡的诈骗和敲诈案件中屡见不鲜。
图源备注:图片由AI生成，图片授权服务商Midjourney
该法案已经在国会提出，并将在下次会议上进行二次审议。法案的核心是针对那些利用人工智能和非人工智能技术制造的虚假内容进行监管，包括视频、音频和图像等。MDDI 指出，虽然现有的《在线虚假信息与操控法》可以处理网络上的谣言，但针对选举期间深度伪造的特别规定是必要的。
如果不加以控制，深度伪造技术可能会影响新加坡的选举公正性。MDDI 强调，选民应该能够根据事实做出明智的决定，而不是受到虚假信息的误导。因此，提案中明确规定，在选举期间，任何虚假描绘候选人言行的在线广告都将被禁止。这包括使用图像编辑、配音或剪辑等手段制作的内容。
此外，法案还允许对发布虚假内容的个人及社交媒体平台发出纠正指令，要求其删除相关内容。互联网服务提供商也可能被要求在选举期间禁止新加坡用户访问这些内容。如果有人未能遵守这些指令，将面临罚款、监禁或两者施的处罚。
候选人也将有权要求对可能存在违规行为的内容进行审查，并可提交声明以证明其主张的真实性。需要注意的是，候选人若故意提交虚假或误导性声明，同样会受到罚款或其他惩罚。
最后，新加坡政府还计划制定一项行业规范，要求特定的社交媒体平台采取措施，防止和打击虚假内容的传播。相关细节将在未来几个月内确定，MDDI 将与社交媒体运营商进行讨论。
新加坡预计将在明年年初或2025年11月前举行大选，而早在2024年4月的立法选举中，韩国已经实施了禁止使用深度伪造的90天禁令。
划重点:
🌐 新加坡拟立法禁止选举期间使用深度伪造技术，以维护选举信息的真实性。
🛡️ 任何虚假描绘候选人言行的在线广告将被禁止，违规者可能面临罚款或监禁。
📜 候选人可申请审查虚假内容并声明其真实性，故意提交虚假信息将受到处罚。