近日，Meta 公司发布了一份安全报告，揭示了俄罗斯在在线欺骗活动中应用生成式人工智能（AI）的情况。根据这份报告，虽然俄罗斯试图利用 AI 增强其网络干预的效果，但到目前为止，这些努力并没有取得显著的成效。
Meta 的研究表明，俄罗斯的 AI 驱动策略所带来的增益微乎其微，更多的只是提高了不良行为者的生产效率和内容生成能力。Meta 的安全政策主管大卫・阿格拉诺维奇指出，自从2022年俄罗斯入侵乌克兰以来，这些虚假信息的活动主要集中在破坏乌克兰及其支持国的信誉上。
随着美国大选的临近，Meta 预计，俄罗斯支持的在线欺骗活动可能会针对那些支持乌克兰的政治候选人。过去几年里，Facebook 因成为选举虚假信息的温床而备受批评，俄罗斯特工利用该平台在2016年和其他美国选举中挑起了政治纷争。
专家们对未来的虚假信息泛滥表示担忧，尤其是生成式 AI 工具如 ChatGPT 和 Dall-E 的普及，使得不良行为者能够在短时间内轻松制作出各种虚假内容。根据报告，AI 不仅可以创建图片和视频，还能够生成文本和撰写虚假新闻。
Meta 在侦查欺骗行为时，主要关注账户的行为模式，而不仅仅是发布的内容。事实上，这些影响力活动往往跨越多个在线平台，Meta 也发现，某些社交媒体平台上的帖子被用来提升虚假内容的可信度。Meta 与其他互联网公司，如 X（前身为 Twitter），分享了这些发现，并强调了共同抵制虚假信息的重要性。
不过，阿格拉诺维奇提到，X 目前正在经历转型，过去与 Meta 合作的许多团队成员已经离开，因此对于欺骗行为的响应较为缓慢。同时，X 也大幅削减了内容审核的资源，这让其成为了虚假信息的滋生地。
划重点:
1. 🇷🇺 俄罗斯的 AI 驱动在线欺骗活动效果不佳，未能取得显著成果。
2. 🗳️ Meta 预计美国大选期间，俄罗斯会针对支持乌克兰的候选人发起网络攻击。
3. 🤖 生成式 AI 工具的普及使得不良行为者更容易制造和传播虚假信息。