在2024年美国总统选举后，网络上的虚假信息惊人的速度传播严重影响了美国人对候选人以及公共健康、气候变化和移民话题的看法。生成式人工智能的发展，加之其生成深度伪造内容的能力和 “幻觉” 事实的倾向，可能进一步加剧这一问题。图源备注:图片由AI生成，图片授权服务商Midjourney为应对这一挑战，挪威初创公司 Factiverse 应运而生。该公司参加了10月份的 TechCrunch Disrupt Battlefield200比赛，并在安全、隐私和社交网络类别中赢得了最佳演讲奖。Factiverse 开发了一款面向企业的工具，能

近日，微软提交了一项专利申请，旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”，于去年向美国专利商标局（USPTO）递交，并于10月31日公开。这一提案的核心是为 AI 模型提供一种 “响应增强系统”（RAS），使其能够根据用户的查询自动提取更多信息，并检查其回答的 “有效性”。具体来说，响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息，该系统

最近，有一些用户在社交媒体平台 X 上，利用发布与美国选举有关的虚假信息、AI 生成的图片以及各种毫无根据的阴谋论，声称自己已经赚取了 “数千美元”。这些用户往往在网络上互相分享彼此的内容，每天转发多次，以此来增加自己的曝光率和收入。BBC 的一项调查发现，这些用户形成了一些网络，里面有数十个账户彼此互动，分享各种真假混杂的信息，目的是为了提升他们在平台上的影响力。这些人中，有些支持唐纳德・特朗普，有些支持卡马拉・哈里斯，还有一些则是独立的。虽

最近，一项由 Adobe 发布的 “AI 时代的真实性研究” 显示，随着人工智能生成内容的日益普及，许多人在获取信息时感到困惑和不安。这项针对2000名美国消费者的调查揭示，在即将到来的2024年美国总统选举中，人们对虚假信息的担忧愈演愈烈。调查显示，94% 的受访者表示，他们非常担心虚假信息会影响即将到来的选举结果。图源备注:图片由AI生成，图片授权服务商Midjourney更让人震惊的是，44% 的受访者在过去三个月内表示曾被误导，或曾相信过与选举相关的虚假信息。这一现象引起了 Ad

在巴西阿拉戈斯州的马塞约，G20国家的领导人于本周五达成了一项重要共识，决定共同努力打击虚假信息，并为人工智能的未来发展制定指导方针。这是 G20历史上首次明确承认虚假信息问题，并呼吁数字平台增强透明度和责任感。图源备注：图片由AI生成，图片授权服务商Midjourney巴西总统卢拉的数字政策秘书乔昂・布兰特在接受美联社采访时表示，G20代表们强调了数字平台必须符合相关政策和法律框架的重要性。此次会议期间，成员国还就人工智能的发展达成了一致，提出要 “伦理、透

厦门警方近日破获一起利用AI技术合成虚假视频事件，一男子任某（32岁，湖北人）因涉嫌发布不实信息被抓获。任某通过自动生成虚假内容、图片，再利用AI技术合成视频，在今日头条上发布了一段关于广东某地老人被殴打、孙子跳河自杀的谣言视频，引起广泛关注。其目的为增加粉丝数和流量以获利。任某承认，利用AI技术合成视频只需两三分钟。警方已对任某采取刑事强制措施，此事件警示公众谨慎使用AI工具，避免不良后果。

马斯克的社交媒体平台X（原Twitter）针对2024年总统选举的虚假信息问题作出调整，特别针对其AI系统Grok，以引导用户至官方信息源，如vote.gov，获取最新的选举信息。多位美国国务卿对Grok在处理选举相关问题时的错误表示担忧，指出其可能导致信息混乱，并要求其改正。Grok在总统拜登宣布退出竞选后，错误地声称某些州的选票截止日期已过，引发了广泛关注。X平台的调整得到了国务卿们的认可，但仍面临民主党议员对虚假图像的调查需求，以及对可能的欺诈行为的担忧。马斯克面临巨大压力，需确保平台信息准确，避免影响选举公正性。

一项新研究开发出AI工具，旨在帮助人们更容易地识别谎言。不同于传统的测谎仪通过测量生理反应判断真实性，这款工具基于谷歌的大型语言模型BERT进行训练，能以67%的成功率识别谎言，显著优于人类平均50%的正确率。然而，仅三分之一的志愿者愿意使用该工具进行实战检测。实验显示，使用此工具的人往往指责更多的声明为谎言，指控率高达58%，显著高于未使用工具者抽取的19%。这一发现警示在算法拟人化和自动决策日益普遍的背景下，人类的直觉评估愈发显得不足，尽管该技术自身仍存局限性。此工具的重要性体现在面对网络上越来越泛滥的虚假信息和AI系统本身的谎言欺骗手段时，人类防御的重要性。尽管有瑕疵和风险，但这样的工具有望成为对抗日益复杂的信息战的重要手段。

["Meta 发布欧盟选举行动计划，加大打击虚假信息力度。","专家担忧 Meta 对抗谣言的计划存在限制。","Meta 加强 AI 内容透明度，但难以确定深度伪造。","专家认为真实声音易遭操纵，保护民主仍是挑战。"]

["Meta宣布将在Facebook和Instagram上标注AI生成的图像，帮助用户区分真实和虚假信息。","与行业合作制定技术标准，扩展至视频和音频，回应虚假内容问题。","举措引起关注，标签将逐步出现，涵盖全球重要选举，努力识别虚假内容。","科技行业合作伙伴共同努力，制定内容真实性标准，推动数字水印实施。"]

["OpenAI宣布2024选举计划，禁止工具仿冒候选人或政府，防止用于竞选和游说。","引入数字证书应对Dall-E生成图像的伪造，简化辨别过程。","OpenAI工具将引导用户关于投票的问题至权威网站CanIVote.org。","计划处于推出过程中，依赖用户举报不当行为。","专家警告随着选举临近，虚假信息风险上升，呼吁培养媒体素养质疑信息。"]

["专家警告称，随着2024年总统选举临近，与选举有关的虚假信息可能会成为一个更为严重的问题。","防范虚假叙述的措施减少，同时传播虚假信息的工具和网络变得更为强大。","2024总统选举前，专家警告选举相关的虚假信息可能成为更大的问题。","在政治广告中的监管，AI技术被广泛使用，增加了虚假信息风险。"]

["研究发现大型语言模型重复传播阴谋论、有害刻板印象和其他虚假信息。","ChatGPT存在频繁错误、自相矛盾及重复有害信息的问题。","语境与提问方式可影响模型对虚假信息的“附和”程度。","大型语言模型学习过程可能导致其学习错误信息，引发担忧。"]

["Flinders大学医学研究团队发出紧急警告，指出Generative AI可轻松制造健康领域虚假信息，引发社区担忧。","通过Generative AI工具，研究团队在一小时内生成100篇误导性博客、20张欺骗性图片和一段深度伪造视频。","专家呼吁政府规范以防止滥用，同时强调医疗专业人士积极参与AI监督的重要性。","研究强调了AI监管的紧迫性，提倡透明流程来监测、报告和修复AI工具中的问题。"]

["德国最受欢迎的新闻节目Tagesschau遭遇虚假信息，AI生成的假音频在社交媒体传播，甚至出现在示威活动中。","假音频内容包括对乌克兰战争和冠状病毒大流行的报道，并发表所谓的道歉和对示威者的“谴责”。","Tagesschau总编辑澄清这些文件是假的，声音机械化，语调错误，可能损害自由和民主的基本秩序。","此事件提醒社交媒体平台和新闻行业加强监管，以维护信息的真实性和可信度。"]

["哥伦比亚广播公司成立CBS新闻确认部门，专注于应对AI深度伪造和虚假信息。","该部门由CBS新闻和电视台的高级副总裁克劳迪娅·米尔恩和罗斯·达根领导。","CBS计划雇佣专业人才，投资新技术，并制作解释虚假信息的片段，以帮助观众更好理解虚假信息。"]

["根据最新民调，58%的美国成年人相信2024年选举中虚假信息将增加，认为人工智能工具负有责任。","绝大多数人认为候选人使用人工智能制作虚假或误导性媒体、编辑照片或视频、根据选民需求制作政治广告以及使用聊天机器人回答选民的问题都不好。","民众对人工智能聊天机器人提供的信息持怀疑态度，更倾向于咨询新闻媒体、朋友和家人以及社交媒体获取总统选举信息。"]

["美国总统拜登颁布AI行政命令，旨在解决技术领域挑战，其中之一是如何辨别图像真伪。","命令要求制定数字水印标准，帮助用户识别真假图像和所有者。","专家表示数字水印并非唯一解决虚假信息问题的方法，还存在破解风险。"]