随着2024年美国总统大选的临近，我们已经步入了一个全新的时代 —— 生成式人工智能（AI）已经开始在选举舞台上显露头角。试想一下，选民们的投票决定可能会受到 AI 生成的图片、视频和音频的影响，这可不是开玩笑的!就在不久前，前总统特朗普分享了一组 AI 合成的图片，显示泰勒.斯威夫特的粉丝们穿着支持他的 T 恤，而这些照片最初可是被标记为讽刺内容的。
更令人担忧的是，今年一月，某些新罕布什尔州的居民还接到了一些深度伪造的电话，试图阻止他们参与民主党初选。如今距离投票日只剩几个月，专家们表示，类似的 AI 虚假信息只会愈演愈烈，而识别这些内容的技术却仍然不够成熟。乔治亚州大学的政治学教授兰斯・亨特指出:“如果有一部分人没有意识到这是虚假的，那这可能对选举结果产生实质性的影响。”
生成式 AI 的应用远不止于聊天机器人，它能够生成各种图像、视频和音频。这样的技术在全球迅速普及，任何人都能轻易上手，包括那些想要利用它进行恶意活动的人。实际上，这种情况在印度、印度尼西亚和韩国等国家已经出现过，虽然尚不清楚这些内容是否真的影响了选民的选择。但想象一下，如果特朗普或副总统哈里斯的假视频在网上疯传，这将对投票造成多大的冲击!
美国国土安全部的网络安全和基础设施安全局（CISA）已经对生成式 AI 可能带来的威胁保持高度警惕。CISA 的高级顾问凯特・康利表示:“外国对手曾在之前的选举中针对美国选举及其基础设施进行攻击，我们预计这种威胁在2024年仍会持续。” 她强调，CISA 正在为各州和地方的选举官员提供有关外部影响操作和虚假信息的指导。
那么，我们该如何在选举前阻止生成式 AI 带来的混乱呢?问题在于，许多生成的内容很难轻易辨别其真假。随着技术的进步，AI 生成的内容从曾经的 “15根手指” 的怪异形象发展到了如今的栩栩如生。
去年七月，拜登政府已经获得了亚马逊、Anthropic、谷歌、Meta、微软和 OpenAI 等公司的自愿承诺，来应对 AI 带来的潜在风险。不过，这些协议并没有法律约束力。亨特教授认为，未来在联邦层面会出现两党支持的立法，专门针对政治竞选中的虚假内容进行管控。
社交媒体平台如 Meta、TikTok 和 X 等也可以在阻止虚假媒体传播上发挥作用，比如对生成式 AI 创建的内容加上明显的标签，甚至可以禁止 AI 生成的内容。然而，现有的检测工具效果并不理想。有些工具甚至被批评为 “蛇油”，并不能提供确切的答案，往往只能给出 “有85% 的可能性” 的模糊判断。
眼看大选日就要到来，生成式 AI 的技术却还在迅速发展，这让人担忧，在投票开始之前，坏人们是否会利用这一技术制造更多的网络混乱。至于最后的选举情况如何，大家都在拭目以待。