近日，AI 搜索公司 Perplexity 正式推出了其新开发的选举信息中心，旨在为选民提供可靠的投票信息。这一平台将为用户提供 AI 生成的投票相关问题答案、候选人总结等功能，并将在11月5日选举日当天，实时跟踪投票结果，数据来源于美联社。Perplexity 表示，该选民信息中心所提供的数据，包括投票要求、投票地点和时间，均基于非营利组织 Democracy Works 的数据。值得一提的是，这一组织还为谷歌的相关功能提供支持。此外，Perplexity 确保其生成的选举相关答案来自于一系列经过严谨筛选的、

最近有一项新研究显示，人工智能模型在回答与选举相关的西班牙语问题时，准确性大大低于其英语回答。这项研究是由 AI 民主项目进行的，该项目由 Proof News、事实核查服务 Factchequeado 以及旧金山高等研究院联合开展。图源备注:图片由AI生成，图片授权服务商Midjourney研究者们针对即将到来的美国总统选举，提出了一些模仿亚利桑那州选民可能问的问题，比如 “如果我是联邦选民，这意味着什么?” 和 “什么是选举人团?” 为了比较准确性，研究团队向五款领先的生成式 AI 模型 —— 包括

最近，有一些用户在社交媒体平台 X 上，利用发布与美国选举有关的虚假信息、AI 生成的图片以及各种毫无根据的阴谋论，声称自己已经赚取了 “数千美元”。这些用户往往在网络上互相分享彼此的内容，每天转发多次，以此来增加自己的曝光率和收入。BBC 的一项调查发现，这些用户形成了一些网络，里面有数十个账户彼此互动，分享各种真假混杂的信息，目的是为了提升他们在平台上的影响力。这些人中，有些支持唐纳德・特朗普，有些支持卡马拉・哈里斯，还有一些则是独立的。虽

新加坡最近在网络安全方面发布了一系列重要公告，特别是针对人工智能（AI）系统的安全指南，以及禁止在选举广告中使用深度伪造技术的立法。这些举措旨在帮助组织在 AI 的开发和部署过程中降低潜在风险，确保技术的安全性。图源备注:图片由AI生成，图片授权服务商Midjourney新加坡网络安全局（CSA）推出的《AI 系统安全指南》强调了 “设计即安全” 的理念，旨在帮助企业识别和应对各种网络安全威胁。指南分为五个阶段，涵盖了 AI 生命周期的各个环节，包括开发、运营和维护，甚至

最近，OpenAI 发出警告，称其人工智能模型 ChatGPT 正被网络犯罪分子用来进行各种恶意活动，包括开发恶意软件、传播虚假信息和进行网络钓鱼攻击。根据一份新报告，自2024年初以来，OpenAI 已经在全球范围内干预了超过20起欺骗性操作，揭示了 AI 被滥用的严峻趋势。这些活动不仅包括调试恶意软件，还涉及为虚假的社交媒体账号撰写内容和生成诱人的钓鱼信息。OpenAI 表示，其使命是确保这些工具为人类的共同利益服务，因此公司正致力于发现、预防和打击滥用其模型的行为。尤其是在这个

随着2024年美国大选的临近，AI 技术的快速发展引发了越来越多的关注。最近，Axios 的分析显示，至少有26个州已经通过或正在考虑相关法律，以监管选举中使用的生成式 AI。这意味着，在未来的选举中，AI 将不再是一个简单的技术工具，而是一个可能影响投票结果的 “游戏规则改变者”。图源备注:图片由AI生成，图片授权服务商Midjourney众所周知，生成式 AI 有时会被恶意使用，甚至可能造成选民的困惑和压制。弗吉尼亚州的参议员马克・沃纳在一封邮件中指出，AI 技术的滥用风险不容小觑

最近，一项由 Adobe 发布的 “AI 时代的真实性研究” 显示，随着人工智能生成内容的日益普及，许多人在获取信息时感到困惑和不安。这项针对2000名美国消费者的调查揭示，在即将到来的2024年美国总统选举中，人们对虚假信息的担忧愈演愈烈。调查显示，94% 的受访者表示，他们非常担心虚假信息会影响即将到来的选举结果。图源备注:图片由AI生成，图片授权服务商Midjourney更让人震惊的是，44% 的受访者在过去三个月内表示曾被误导，或曾相信过与选举相关的虚假信息。这一现象引起了 Ad

新加坡近期提出一项新法案，旨在大选期间禁止使用深度伪造技术，以确保信息真实性和选举公正性。随着生成式人工智能技术的发展，深度伪造内容风险增加，该法案针对利用AI和非AI技术制造的虚假内容进行监管，包括视频、音频和图像等。核心规定禁止在选举期间发布虚假描绘候选人言行的在线广告，违规者将面临罚款或监禁。法案还允许对发布虚假内容的个人及社交媒体平台发出纠正指令，要求删除相关内容，并对互联网服务提供商实施选举期间访问限制。此外，候选人有权对可能存在违规行为的内容进行审查，提交声明以证明其真实性。故意提交虚假或误导性声明的候选人将受到处罚。政府计划制定行业规范，要求特定社交媒体平台采取措施防止虚假内容传播。此法案在国会提出，预计将于明年年初或2025年11月前的大选中实施。

马斯克的社交媒体平台X（原Twitter）针对2024年总统选举的虚假信息问题作出调整，特别针对其AI系统Grok，以引导用户至官方信息源，如vote.gov，获取最新的选举信息。多位美国国务卿对Grok在处理选举相关问题时的错误表示担忧，指出其可能导致信息混乱，并要求其改正。Grok在总统拜登宣布退出竞选后，错误地声称某些州的选票截止日期已过，引发了广泛关注。X平台的调整得到了国务卿们的认可，但仍面临民主党议员对虚假图像的调查需求，以及对可能的欺诈行为的担忧。马斯克面临巨大压力，需确保平台信息准确，避免影响选举公正性。

微软发布报告指出，伊朗正运用网络影响操作和生成式人工智能，意图操控2024年美国总统选举。活动自6月起增加，包括网络侦察、渗透线上人群及网站。报告提到，伊朗多个组织参与，如“Sefid Flood”通过冒充社会和政治活动家制造混乱，削弱公众对当局的信任；“Mint Sandstorm”组织则进行网络钓鱼攻击。此外，“Storm-2035”网络运营假新闻网站，传播分裂性信息，利用AI服务抄袭和改写内容，试图影响美国选民。报告强调，尽管尝试使用AI，许多组织仍采用传统手段，认为数字操控更有效。

社交媒体平台X的Grok聊天机器人错误声称副总统卡马拉・哈里斯在某些2024年美国总统选票上不具备资格，此信息源于错误的AI搜索结果，引发了州务卿们的关注并呼吁X CEO埃隆・马斯克立即修正AI搜索助手，确保选民获得准确信息。这一事件在X上迅速传播，尽管Grok仅向高级用户开放，并附有信息核实提示，但错误信息依然广泛传播。马斯克近期的言论和行为，包括转发利用AI克隆哈里斯声音的视频以及发表可能加剧政治紧张的言论，也引起了广泛批评和争议。

["谷歌限制 AI 聊天机器人 Gemini 回答选举相关查询。","决定旨在减少技术部署中的潜在错误。","涉及美国总统选举以及其他国家的全国选举。","谷歌对 AI 技术在选举中的误导担忧日益增多。"]

["Midjourney的首席执行官在Discord的聊天会话中告诉用户，公司正考虑禁止生成拜登和特朗普等政治人物的图片。","此举旨在避免在选举季引发争议和纷争，可能影响用户之间的政治讨论和观点交流。","引发了用户和社交媒体平台政策的讨论，一些支持维持平台秩序和和谐氛围，另一些担心限制了言论自由。"]

["Meta 发布欧盟选举行动计划，加大打击虚假信息力度。","专家担忧 Meta 对抗谣言的计划存在限制。","Meta 加强 AI 内容透明度，但难以确定深度伪造。","专家认为真实声音易遭操纵，保护民主仍是挑战。"]

["OpenAI宣布2024选举计划，禁止工具仿冒候选人或政府，防止用于竞选和游说。","引入数字证书应对Dall-E生成图像的伪造，简化辨别过程。","OpenAI工具将引导用户关于投票的问题至权威网站CanIVote.org。","计划处于推出过程中，依赖用户举报不当行为。","专家警告随着选举临近，虚假信息风险上升，呼吁培养媒体素养质疑信息。"]

["专家警告称，随着2024年总统选举临近，与选举有关的虚假信息可能会成为一个更为严重的问题。","防范虚假叙述的措施减少，同时传播虚假信息的工具和网络变得更为强大。","2024总统选举前，专家警告选举相关的虚假信息可能成为更大的问题。","在政治广告中的监管，AI技术被广泛使用，增加了虚假信息风险。"]

["谷歌计划限制其生成式 AI 工具在美国选举期间的使用","限制将于明年初推出，防止生成式 AI 工具传播误导信息","担忧生成式 AI 可能操控选举结果的问题，谷歌将更加关注人工智能在选举中的作用"]

["根据最新民调，58%的美国成年人相信2024年选举中虚假信息将增加，认为人工智能工具负有责任。","绝大多数人认为候选人使用人工智能制作虚假或误导性媒体、编辑照片或视频、根据选民需求制作政治广告以及使用聊天机器人回答选民的问题都不好。","民众对人工智能聊天机器人提供的信息持怀疑态度，更倾向于咨询新闻媒体、朋友和家人以及社交媒体获取总统选举信息。"]

["联邦选举委员会决定可能会制定规则，规范人工智能生成的内容在政治广告中的使用。","联邦选举委员会投票决定启动了一个程序，可能会导致管理竞选活动如何使用人工智能的新规则在今年年底前生效。","该请愿书由倡导组织 “公共公民” 提交，呼吁该委员会利用其权力，制定规则，禁止候选人和政党使用人工智能歪曲对手，从而惩罚欺诈行为。"]