近日，美国联邦贸易委员会（FTC）发起了一项名为 “AI 合规行动” 的执法行动，对五家涉嫌虚假宣传和欺诈行为的人工智能公司提起诉讼。FTC 表示，这些公司被指控在其软件的能力上撒谎，或利用 AI 技术实施违法行为。图源备注:图片由AI生成，图片授权服务商Midjourney在这五家被诉公司的案例中，有两家已经与 FTC 达成和解，而另外三家则选择在法庭上对抗 FTC 的指控。这三家公司分别是 Ascend Ecom、Ecommerce Empire Builders 和 FBA Machine。FTC 指出，这些公司声称能帮助客户通过其 AI 技术建立和管

最近，澳大利亚一位创业公司前 CEO 被美国司法部和证券交易委员会指控，涉嫌利用虚假的财务记录诈骗投资者，筹集了高达4000万美元的资金。这位名叫巴巴・纳迪姆帕利（Baba Nadimpalli）的41岁男子，是 Skael 公司的联合创始人和前 CEO。Skael 成立于2016年，声称能够通过 “数字员工” 替代人工，简化工作流程，提升效率。然而，事情的真相却大相径庭。根据一份在1月份解密的起诉书，Skael 宣称其软件能为每位员工每天节省2.5小时的工作时间，并每年为客户节省10万美元。可实际上，这些承诺

最近，安全研究员约翰・瑞贝格（Johann Rehberger）发现了一个关于 ChatGPT 的漏洞，这个漏洞可能让黑客在用户的长期记忆中植入虚假的信息和恶意指令。虽然他向 OpenAI 报告了这个问题，但不幸的是，该公司并没有给予足够重视，迅速关闭了相关调查，声称这并不算是安全问题。面对这样的情况，瑞贝格决定不放弃，开发了一个概念验证的攻击示例，利用这个漏洞可以将用户的所有输入数据永久性地窃取。OpenAI 看到这一情况后，于本月发布了一部分修复措施，试图解决这个问题。那么，这个

近日，OpenAI 官方在交平台 X 上的一个账号遭到黑客攻击，发布了一则虚假的加密货币广告。事情发生在周一晚上6点24分，名为 @OpenAINewsroom 的账号，这个账号专门分享 OpenAI 的新闻，粉丝近54，000人，突然发出了一条已经删除的推文，宣传一种名为 “$OPENAI” 的代币。这条推文声称:“我们非常高兴地宣布 $OPENAI:这个代币弥合了人工智能与区块链技术之间的差距。” 同时，推文还提到，所有 OpenAI 的用户都有机会领取 $OPENAI 的初始供应量，并且持有该代币的人将可以访问 OpenAI 未来的所有 bet

最近，一项由 Adobe 发布的 “AI 时代的真实性研究” 显示，随着人工智能生成内容的日益普及，许多人在获取信息时感到困惑和不安。这项针对2000名美国消费者的调查揭示，在即将到来的2024年美国总统选举中，人们对虚假信息的担忧愈演愈烈。调查显示，94% 的受访者表示，他们非常担心虚假信息会影响即将到来的选举结果。图源备注:图片由AI生成，图片授权服务商Midjourney更让人震惊的是，44% 的受访者在过去三个月内表示曾被误导，或曾相信过与选举相关的虚假信息。这一现象引起了 Ad

在巴西阿拉戈斯州的马塞约，G20国家的领导人于本周五达成了一项重要共识，决定共同努力打击虚假信息，并为人工智能的未来发展制定指导方针。这是 G20历史上首次明确承认虚假信息问题，并呼吁数字平台增强透明度和责任感。图源备注：图片由AI生成，图片授权服务商Midjourney巴西总统卢拉的数字政策秘书乔昂・布兰特在接受美联社采访时表示，G20代表们强调了数字平台必须符合相关政策和法律框架的重要性。此次会议期间，成员国还就人工智能的发展达成了一致，提出要 “伦理、透

近日，哈佛肯尼迪学院的“错误信息审查”研究发现，人工智能生成的虚假研究论文正在渗透到谷歌学术等学术搜索引擎中。这可能会削弱公众对科学发现的信任，并破坏依赖尖端研究的行业的产品开发。

厦门警方近日破获一起利用AI技术合成虚假视频事件，一男子任某（32岁，湖北人）因涉嫌发布不实信息被抓获。任某通过自动生成虚假内容、图片，再利用AI技术合成视频，在今日头条上发布了一段关于广东某地老人被殴打、孙子跳河自杀的谣言视频，引起广泛关注。其目的为增加粉丝数和流量以获利。任某承认，利用AI技术合成视频只需两三分钟。警方已对任某采取刑事强制措施，此事件警示公众谨慎使用AI工具，避免不良后果。

马斯克的社交媒体平台X（原Twitter）针对2024年总统选举的虚假信息问题作出调整，特别针对其AI系统Grok，以引导用户至官方信息源，如vote.gov，获取最新的选举信息。多位美国国务卿对Grok在处理选举相关问题时的错误表示担忧，指出其可能导致信息混乱，并要求其改正。Grok在总统拜登宣布退出竞选后，错误地声称某些州的选票截止日期已过，引发了广泛关注。X平台的调整得到了国务卿们的认可，但仍面临民主党议员对虚假图像的调查需求，以及对可能的欺诈行为的担忧。马斯克面临巨大压力，需确保平台信息准确，避免影响选举公正性。

研究人员提出“人类身份凭证”(PHC)系统，作为替代传统CAPTCHA验证的新方式，以确认在线用户为真人。该系统通过零知识证明加密技术为每个用户提供唯一身份凭证，存储于个人设备，保护隐私，替代CAPTCHA和生物识别。然而，系统面临凭证滥用、权力集中、使用障碍等问题。研究建议政府通过试点项目测试PHC可行性，同时呼吁技术公司应对AI引发的问题负责，如给AI生成内容添加水印或开发识别技术。这一创新旨在解决AI普及带来的安全挑战，但需解决用户数字负担和责任分配问题。

美国联邦贸易委员会（FTC）宣布全面禁止虚假的人工智能（AI）生成评论和推荐，以打击在线评论中的不诚实行为，包括购买好评、雇用虚假关注者及虚构角色评论。这些假评论误导消费者，破坏市场公平竞争。新规强调AI生成虚假评论的危害，影响消费者决策。FTC主席莉娜·汉表示，虚假评论污染市场，分散对诚实竞争者的关注。这项规定旨在保护消费者，让他们依赖真实用户反馈，而非假评论。调查揭露知名媒体发布由虚构AI作者撰写的产品评测，涉及虚假内容。负责假评论的公司AdVon Commerce及其关联公司Seller Rocket允许支付费用获取推广，这种“付推广”关系被新规禁止。FTC有权对违反规定的公司追究民事责任，旨在清理电子商务环境，保护消费者权益。总统拜登对此表示支持，强调消费者应信赖真实评价寻找优质服务。

怀俄明州近期曝出记者丑闻，一名使用人工智能技术伪造引用和故事的记者辞职。当地记者CJ Baker揭露，怀俄明州州长和地方检察官的引用内容可疑，文章中的句子显得机械化。这一事件始于一篇关于喜剧演员拉里・凯布尔・盖被选为科迪印章游行大元帅的报道。Baker与该记者阿伦・佩尔查会面后，佩尔查承认使用AI并在短暂工作后辞职。出版商和编辑对此表示歉意，并承诺制定AI使用政策以确保未来报道的真实性。该事件凸显了AI对新闻行业的潜在危害，AI生成的内容可能导致难以分辨真伪的问题。

社交媒体平台X的Grok聊天机器人错误声称副总统卡马拉・哈里斯在某些2024年美国总统选票上不具备资格，此信息源于错误的AI搜索结果，引发了州务卿们的关注并呼吁X CEO埃隆・马斯克立即修正AI搜索助手，确保选民获得准确信息。这一事件在X上迅速传播，尽管Grok仅向高级用户开放，并附有信息核实提示，但错误信息依然广泛传播。马斯克近期的言论和行为，包括转发利用AI克隆哈里斯声音的视频以及发表可能加剧政治紧张的言论，也引起了广泛批评和争议。

谷歌研究人员警告生成式人工智能（GenAI）正在用虚假内容危害互联网，谷歌在这一“真假大战”中扮演着双重角色：既是推动者也是制造者。AI错误信息，如“披萨上涂胶水”、“吃石头”的荒谬建议，最终需手动删除。滥用方式包括篡改人类肖像和伪造证据，目的多为影响舆论、诈骗或牟利。虽然风险尚未构成生存威胁，但正日益严重，滥用案例多为对系统正常使用的常规操作，占9成。生成虚假信息成本低，互联网面临混乱，公众辨别真假能力受考验。这不仅污染公开数据，还可能扭曲社会政治现实和科学共识的理解。谷歌的研究揭示了这一问题的严重性，可能促使自我救赎和整个互联网社会的警醒。

一项新研究开发出AI工具，旨在帮助人们更容易地识别谎言。不同于传统的测谎仪通过测量生理反应判断真实性，这款工具基于谷歌的大型语言模型BERT进行训练，能以67%的成功率识别谎言，显著优于人类平均50%的正确率。然而，仅三分之一的志愿者愿意使用该工具进行实战检测。实验显示，使用此工具的人往往指责更多的声明为谎言，指控率高达58%，显著高于未使用工具者抽取的19%。这一发现警示在算法拟人化和自动决策日益普遍的背景下，人类的直觉评估愈发显得不足，尽管该技术自身仍存局限性。此工具的重要性体现在面对网络上越来越泛滥的虚假信息和AI系统本身的谎言欺骗手段时，人类防御的重要性。尽管有瑕疵和风险，但这样的工具有望成为对抗日益复杂的信息战的重要手段。

["Midjourney禁止用户创建涉及拜登和特朗普的虚假图片，应对美国总统选举。","新政策对可能影响选举公正性的行为进行限制，强调公众利益和选举公正性。","首席执行官强调技术不应被用于制造虚假信息，保护选举公正性。","新政策是对美国总统选举的积极回应，防止虚假图片影响选举公正性。","公司考虑禁止政治人物图片，维护平台秩序和言论自由，保持用户交流环境。"]

["Chong Ke 是一名卑诗省律师代表百万富翁 Wei Chen 在离婚诉讼中引用了由 ChatGPT 生成的虚假案例","法官指出生成式人工智能不能替代律师专业知识","Mashuhara 裁定 Ke 应承担费用并审查其他案件中的情况","律师界反思使用人工智能工具的风险"]

["Meta 发布欧盟选举行动计划，加大打击虚假信息力度。","专家担忧 Meta 对抗谣言的计划存在限制。","Meta 加强 AI 内容透明度，但难以确定深度伪造。","专家认为真实声音易遭操纵，保护民主仍是挑战。"]

["男子通过AI聊天机器人ChatGPT编写虚假投诉，成功骗取麦当劳免费餐点。","骗局步骤包括在麦当劳寻找废弃收据，并通过ChatGPT撰写投诉。","引起公众不满，担心餐厅因此受到负面影响。","播客主持人Gage声称通过一次调查收到高达四份免费餐券。","评论者担心此类骗局可能导致麦当劳店面受到连锁负面评价。"]

["专家表示OpenAI最新视频生成工具Sora可能助长虚假宣传和偏见。","Sora展示了达尔马提亚狗、中国新年游行和考古学家挖掘椅子的虚假视频。","专家担心Sora加剧互联网不实信息和政府宣传，使真假内容界限更加模糊。","OpenAI已采取措施防止滥用Sora，但专家仍对其潜在深度伪造视频能力表示担忧。"]