随着美国2024年总统选举日的临近，OpenAI 于周五发布的一篇博客文章指出，ChatGPT 在选举前一个月拒绝了超过25万次生成政治候选人图像的请求。这些请求中包括希望生成总统当选人特朗普、副总统哈里斯、副总统候选人范斯、现任总统拜登以及明尼苏达州州长沃尔兹的图像。OpenAI 在博客中表示，ChatGPT 已经应用了多项安全措施，拒绝生成包括政治人物在内的真实人物图像。这些保护措施在选举期间尤其重要，是该公司更广泛努力的一部分，旨在防止其工具被用于误导或有害的目的。此外，

微软近日发布了一份白皮书，深入分析了生成式人工智能（AI）被恶意利用的情况，包括诈骗、儿童性虐待材料、选举操控以及非自愿的私人影像等问题。该公司强调，这些问题不仅是技术挑战，更是对社会的重大威胁。图源备注：图片由AI生成，图片授权服务商Midjourney根据微软的白皮书，犯罪分子正愈发利用生成式 AI 的能力来实施恶行。这些恶性行为包括利用 AI 生成的虚假信息进行诈骗、创建儿童性虐待材料、通过深度伪造技术进行选举操控，以及制造非自愿的亲密影像，这些影像尤其

随着美国大选的临近，AI 搜索引擎正在面临重大的考验。在这一重要时刻，各大技术公司都在努力提供准确可靠的信息，以应对人们对错误信息和 AI 生成内容 “幻觉” 的担忧。在这场竞争中，Perplexity AI 凭借其全新的 AI 选举中心吸引了注意。这个平台提供了实时更新，结合了《美联社》的数据以及与非营利选民指导网站 Democracy Works 的合作。用户只需输入邮政编码，即可获取详细的候选人信息、投票措施及相关问题的答案。测试过程中，记者在新泽西地区输入多个邮政编码，结果显示的

在美国总统选举期间，X 的聊天机器人 Grok 被发现散布错误信息。根据 TechCrunch 的测试，Grok 在回答有关选举结果的问题时经常会出错，甚至会宣布特朗普赢得了关键战场州，尽管这些州的计票和报告尚未结束。在接受 采访时，Grok 曾多次表示特朗普赢得了2024年俄亥俄州大选，尽管事实并非如此。错误信息的来源似乎是来自不同选举年的推文和误导性措辞的消息来源。与其他主要的聊天机器人相比，Grok 在处理选举结果问题时更加鲁莽。OpenAI 的 ChatGPT 和 Meta 的 Meta AI 聊天机器人都更加谨慎

近日，AI 搜索公司 Perplexity 正式推出了其新开发的选举信息中心，旨在为选民提供可靠的投票信息。这一平台将为用户提供 AI 生成的投票相关问题答案、候选人总结等功能，并将在11月5日选举日当天，实时跟踪投票结果，数据来源于美联社。Perplexity 表示，该选民信息中心所提供的数据，包括投票要求、投票地点和时间，均基于非营利组织 Democracy Works 的数据。值得一提的是，这一组织还为谷歌的相关功能提供支持。此外，Perplexity 确保其生成的选举相关答案来自于一系列经过严谨筛选的、

最近有一项新研究显示，人工智能模型在回答与选举相关的西班牙语问题时，准确性大大低于其英语回答。这项研究是由 AI 民主项目进行的，该项目由 Proof News、事实核查服务 Factchequeado 以及旧金山高等研究院联合开展。图源备注:图片由AI生成，图片授权服务商Midjourney研究者们针对即将到来的美国总统选举，提出了一些模仿亚利桑那州选民可能问的问题，比如 “如果我是联邦选民，这意味着什么?” 和 “什么是选举人团?” 为了比较准确性，研究团队向五款领先的生成式 AI 模型 —— 包括

最近，有一些用户在社交媒体平台 X 上，利用发布与美国选举有关的虚假信息、AI 生成的图片以及各种毫无根据的阴谋论，声称自己已经赚取了 “数千美元”。这些用户往往在网络上互相分享彼此的内容，每天转发多次，以此来增加自己的曝光率和收入。BBC 的一项调查发现，这些用户形成了一些网络，里面有数十个账户彼此互动，分享各种真假混杂的信息，目的是为了提升他们在平台上的影响力。这些人中，有些支持唐纳德・特朗普，有些支持卡马拉・哈里斯，还有一些则是独立的。虽

新加坡最近在网络安全方面发布了一系列重要公告，特别是针对人工智能（AI）系统的安全指南，以及禁止在选举广告中使用深度伪造技术的立法。这些举措旨在帮助组织在 AI 的开发和部署过程中降低潜在风险，确保技术的安全性。图源备注:图片由AI生成，图片授权服务商Midjourney新加坡网络安全局（CSA）推出的《AI 系统安全指南》强调了 “设计即安全” 的理念，旨在帮助企业识别和应对各种网络安全威胁。指南分为五个阶段，涵盖了 AI 生命周期的各个环节，包括开发、运营和维护，甚至

最近，OpenAI 发出警告，称其人工智能模型 ChatGPT 正被网络犯罪分子用来进行各种恶意活动，包括开发恶意软件、传播虚假信息和进行网络钓鱼攻击。根据一份新报告，自2024年初以来，OpenAI 已经在全球范围内干预了超过20起欺骗性操作，揭示了 AI 被滥用的严峻趋势。这些活动不仅包括调试恶意软件，还涉及为虚假的社交媒体账号撰写内容和生成诱人的钓鱼信息。OpenAI 表示，其使命是确保这些工具为人类的共同利益服务，因此公司正致力于发现、预防和打击滥用其模型的行为。尤其是在这个

随着2024年美国大选的临近，AI 技术的快速发展引发了越来越多的关注。最近，Axios 的分析显示，至少有26个州已经通过或正在考虑相关法律，以监管选举中使用的生成式 AI。这意味着，在未来的选举中，AI 将不再是一个简单的技术工具，而是一个可能影响投票结果的 “游戏规则改变者”。图源备注:图片由AI生成，图片授权服务商Midjourney众所周知，生成式 AI 有时会被恶意使用，甚至可能造成选民的困惑和压制。弗吉尼亚州的参议员马克・沃纳在一封邮件中指出，AI 技术的滥用风险不容小觑

最近，一项由 Adobe 发布的 “AI 时代的真实性研究” 显示，随着人工智能生成内容的日益普及，许多人在获取信息时感到困惑和不安。这项针对2000名美国消费者的调查揭示，在即将到来的2024年美国总统选举中，人们对虚假信息的担忧愈演愈烈。调查显示，94% 的受访者表示，他们非常担心虚假信息会影响即将到来的选举结果。图源备注:图片由AI生成，图片授权服务商Midjourney更让人震惊的是，44% 的受访者在过去三个月内表示曾被误导，或曾相信过与选举相关的虚假信息。这一现象引起了 Ad

新加坡近期提出一项新法案，旨在大选期间禁止使用深度伪造技术，以确保信息真实性和选举公正性。随着生成式人工智能技术的发展，深度伪造内容风险增加，该法案针对利用AI和非AI技术制造的虚假内容进行监管，包括视频、音频和图像等。核心规定禁止在选举期间发布虚假描绘候选人言行的在线广告，违规者将面临罚款或监禁。法案还允许对发布虚假内容的个人及社交媒体平台发出纠正指令，要求删除相关内容，并对互联网服务提供商实施选举期间访问限制。此外，候选人有权对可能存在违规行为的内容进行审查，提交声明以证明其真实性。故意提交虚假或误导性声明的候选人将受到处罚。政府计划制定行业规范，要求特定社交媒体平台采取措施防止虚假内容传播。此法案在国会提出，预计将于明年年初或2025年11月前的大选中实施。

马斯克的社交媒体平台X（原Twitter）针对2024年总统选举的虚假信息问题作出调整，特别针对其AI系统Grok，以引导用户至官方信息源，如vote.gov，获取最新的选举信息。多位美国国务卿对Grok在处理选举相关问题时的错误表示担忧，指出其可能导致信息混乱，并要求其改正。Grok在总统拜登宣布退出竞选后，错误地声称某些州的选票截止日期已过，引发了广泛关注。X平台的调整得到了国务卿们的认可，但仍面临民主党议员对虚假图像的调查需求，以及对可能的欺诈行为的担忧。马斯克面临巨大压力，需确保平台信息准确，避免影响选举公正性。

微软发布报告指出，伊朗正运用网络影响操作和生成式人工智能，意图操控2024年美国总统选举。活动自6月起增加，包括网络侦察、渗透线上人群及网站。报告提到，伊朗多个组织参与，如“Sefid Flood”通过冒充社会和政治活动家制造混乱，削弱公众对当局的信任；“Mint Sandstorm”组织则进行网络钓鱼攻击。此外，“Storm-2035”网络运营假新闻网站，传播分裂性信息，利用AI服务抄袭和改写内容，试图影响美国选民。报告强调，尽管尝试使用AI，许多组织仍采用传统手段，认为数字操控更有效。

社交媒体平台X的Grok聊天机器人错误声称副总统卡马拉・哈里斯在某些2024年美国总统选票上不具备资格，此信息源于错误的AI搜索结果，引发了州务卿们的关注并呼吁X CEO埃隆・马斯克立即修正AI搜索助手，确保选民获得准确信息。这一事件在X上迅速传播，尽管Grok仅向高级用户开放，并附有信息核实提示，但错误信息依然广泛传播。马斯克近期的言论和行为，包括转发利用AI克隆哈里斯声音的视频以及发表可能加剧政治紧张的言论，也引起了广泛批评和争议。

["谷歌限制 AI 聊天机器人 Gemini 回答选举相关查询。","决定旨在减少技术部署中的潜在错误。","涉及美国总统选举以及其他国家的全国选举。","谷歌对 AI 技术在选举中的误导担忧日益增多。"]

["Midjourney的首席执行官在Discord的聊天会话中告诉用户，公司正考虑禁止生成拜登和特朗普等政治人物的图片。","此举旨在避免在选举季引发争议和纷争，可能影响用户之间的政治讨论和观点交流。","引发了用户和社交媒体平台政策的讨论，一些支持维持平台秩序和和谐氛围，另一些担心限制了言论自由。"]

["Meta 发布欧盟选举行动计划，加大打击虚假信息力度。","专家担忧 Meta 对抗谣言的计划存在限制。","Meta 加强 AI 内容透明度，但难以确定深度伪造。","专家认为真实声音易遭操纵，保护民主仍是挑战。"]

["OpenAI宣布2024选举计划，禁止工具仿冒候选人或政府，防止用于竞选和游说。","引入数字证书应对Dall-E生成图像的伪造，简化辨别过程。","OpenAI工具将引导用户关于投票的问题至权威网站CanIVote.org。","计划处于推出过程中，依赖用户举报不当行为。","专家警告随着选举临近，虚假信息风险上升，呼吁培养媒体素养质疑信息。"]

["专家警告称，随着2024年总统选举临近，与选举有关的虚假信息可能会成为一个更为严重的问题。","防范虚假叙述的措施减少，同时传播虚假信息的工具和网络变得更为强大。","2024总统选举前，专家警告选举相关的虚假信息可能成为更大的问题。","在政治广告中的监管，AI技术被广泛使用，增加了虚假信息风险。"]