最近，一项由 Adobe 发布的 “AI 时代的真实性研究” 显示，随着人工智能生成内容的日益普及，许多人在获取信息时感到困惑和不安。这项针对2000名美国消费者的调查揭示，在即将到来的2024年美国总统选举中，人们对虚假信息的担忧愈演愈烈。调查显示，94% 的受访者表示，他们非常担心虚假信息会影响即将到来的选举结果。图源备注:图片由AI生成，图片授权服务商Midjourney更让人震惊的是，44% 的受访者在过去三个月内表示曾被误导，或曾相信过与选举相关的虚假信息。这一现象引起了 Ad

新加坡近期提出一项新法案，旨在大选期间禁止使用深度伪造技术，以确保信息真实性和选举公正性。随着生成式人工智能技术的发展，深度伪造内容风险增加，该法案针对利用AI和非AI技术制造的虚假内容进行监管，包括视频、音频和图像等。核心规定禁止在选举期间发布虚假描绘候选人言行的在线广告，违规者将面临罚款或监禁。法案还允许对发布虚假内容的个人及社交媒体平台发出纠正指令，要求删除相关内容，并对互联网服务提供商实施选举期间访问限制。此外，候选人有权对可能存在违规行为的内容进行审查，提交声明以证明其真实性。故意提交虚假或误导性声明的候选人将受到处罚。政府计划制定行业规范，要求特定社交媒体平台采取措施防止虚假内容传播。此法案在国会提出，预计将于明年年初或2025年11月前的大选中实施。

马斯克的社交媒体平台X（原Twitter）针对2024年总统选举的虚假信息问题作出调整，特别针对其AI系统Grok，以引导用户至官方信息源，如vote.gov，获取最新的选举信息。多位美国国务卿对Grok在处理选举相关问题时的错误表示担忧，指出其可能导致信息混乱，并要求其改正。Grok在总统拜登宣布退出竞选后，错误地声称某些州的选票截止日期已过，引发了广泛关注。X平台的调整得到了国务卿们的认可，但仍面临民主党议员对虚假图像的调查需求，以及对可能的欺诈行为的担忧。马斯克面临巨大压力，需确保平台信息准确，避免影响选举公正性。

微软发布报告指出，伊朗正运用网络影响操作和生成式人工智能，意图操控2024年美国总统选举。活动自6月起增加，包括网络侦察、渗透线上人群及网站。报告提到，伊朗多个组织参与，如“Sefid Flood”通过冒充社会和政治活动家制造混乱，削弱公众对当局的信任；“Mint Sandstorm”组织则进行网络钓鱼攻击。此外，“Storm-2035”网络运营假新闻网站，传播分裂性信息，利用AI服务抄袭和改写内容，试图影响美国选民。报告强调，尽管尝试使用AI，许多组织仍采用传统手段，认为数字操控更有效。

社交媒体平台X的Grok聊天机器人错误声称副总统卡马拉・哈里斯在某些2024年美国总统选票上不具备资格，此信息源于错误的AI搜索结果，引发了州务卿们的关注并呼吁X CEO埃隆・马斯克立即修正AI搜索助手，确保选民获得准确信息。这一事件在X上迅速传播，尽管Grok仅向高级用户开放，并附有信息核实提示，但错误信息依然广泛传播。马斯克近期的言论和行为，包括转发利用AI克隆哈里斯声音的视频以及发表可能加剧政治紧张的言论，也引起了广泛批评和争议。

["谷歌限制 AI 聊天机器人 Gemini 回答选举相关查询。","决定旨在减少技术部署中的潜在错误。","涉及美国总统选举以及其他国家的全国选举。","谷歌对 AI 技术在选举中的误导担忧日益增多。"]

["Midjourney的首席执行官在Discord的聊天会话中告诉用户，公司正考虑禁止生成拜登和特朗普等政治人物的图片。","此举旨在避免在选举季引发争议和纷争，可能影响用户之间的政治讨论和观点交流。","引发了用户和社交媒体平台政策的讨论，一些支持维持平台秩序和和谐氛围，另一些担心限制了言论自由。"]

["Meta 发布欧盟选举行动计划，加大打击虚假信息力度。","专家担忧 Meta 对抗谣言的计划存在限制。","Meta 加强 AI 内容透明度，但难以确定深度伪造。","专家认为真实声音易遭操纵，保护民主仍是挑战。"]

["OpenAI宣布2024选举计划，禁止工具仿冒候选人或政府，防止用于竞选和游说。","引入数字证书应对Dall-E生成图像的伪造，简化辨别过程。","OpenAI工具将引导用户关于投票的问题至权威网站CanIVote.org。","计划处于推出过程中，依赖用户举报不当行为。","专家警告随着选举临近，虚假信息风险上升，呼吁培养媒体素养质疑信息。"]

["专家警告称，随着2024年总统选举临近，与选举有关的虚假信息可能会成为一个更为严重的问题。","防范虚假叙述的措施减少，同时传播虚假信息的工具和网络变得更为强大。","2024总统选举前，专家警告选举相关的虚假信息可能成为更大的问题。","在政治广告中的监管，AI技术被广泛使用，增加了虚假信息风险。"]

["谷歌计划限制其生成式 AI 工具在美国选举期间的使用","限制将于明年初推出，防止生成式 AI 工具传播误导信息","担忧生成式 AI 可能操控选举结果的问题，谷歌将更加关注人工智能在选举中的作用"]

["根据最新民调，58%的美国成年人相信2024年选举中虚假信息将增加，认为人工智能工具负有责任。","绝大多数人认为候选人使用人工智能制作虚假或误导性媒体、编辑照片或视频、根据选民需求制作政治广告以及使用聊天机器人回答选民的问题都不好。","民众对人工智能聊天机器人提供的信息持怀疑态度，更倾向于咨询新闻媒体、朋友和家人以及社交媒体获取总统选举信息。"]

["联邦选举委员会决定可能会制定规则，规范人工智能生成的内容在政治广告中的使用。","联邦选举委员会投票决定启动了一个程序，可能会导致管理竞选活动如何使用人工智能的新规则在今年年底前生效。","该请愿书由倡导组织 “公共公民” 提交，呼吁该委员会利用其权力，制定规则，禁止候选人和政党使用人工智能歪曲对手，从而惩罚欺诈行为。"]