在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月，安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入，AI竟然可以被诱导下载并运行恶意软件。Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中，他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架，但现已被黑客广泛用作恶意软件工具。更令人担忧的是，这仅仅是冰山一角。研究人员指出，AI还可以被诱导编写、编译并运

一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为"p0pular.eth"的黑客仅通过精心设计的文字提示，成功"骗取"了价值47，000美元的加密货币。这个令人震惊的案例揭示了当前AI系统中存在的严重安全漏洞。黑客的攻击过程堪称教科书式的社会工程学操作:首先，黑客伪装成拥有管理员权限，巧妙地绕过了系统的安全警告机制。通过重新定义"approveTransfer"函数，他让机器人误以为自己正在处理incoming（接收）支付，而非原本被禁止

随着人工技术的飞速发展，人类似乎离电影《黑帝国》中的虚拟场景又近了一。近日，一个名为 “The Matrix” 的 AI 基础世界模拟器正式推出这一创新成果由一个全华人团队，能够实现无限生成高保真的720p真实场景视频，并且支持实时交互。该模拟器展示了一个14分钟的演示视频，实际上，它可以持续生成长达一个小时的内容，涵盖沙漠、草原、水体和城市等多场景。在体验过程中，用户可以通过键盘的 WA、S、D 键进行实时控制，感受每秒16帧的动态画面。“The Matrix” 项目的开发团队成员

近日，网络安全公司 Kaspersky 发布了一项调查报告，揭露了网络犯罪分子如何利用一个假冒的 ChatGPT 应用程序来实施后门攻击和传播恶意软件。令人关注的是，这些攻击者的目标从2022年的亚洲转向了2024年的沙特阿拉伯，显示出他们的攻击策略正在不断演变。图源备注:图片由AI生成，图片授权服务商MidjourneyKaspersky 的研究显示，这次恶意活动涉及到名为 PipeMagic 的木马病毒。PipeMagic 是一种插件式木马，作为攻击的 “网关”，可以深入渗透企业网络。Kaspersky 的安全研究员 Sergey Lozhkin 表示，网

白帽黑客Johann Rehberger近日揭露了一个令人震惊的安全漏洞，他发现ChatGPT可被黑客利用作为间谍软件，持续窃取用户数据。Rehberger将这种攻击方式命名为"SpAIware"，主要针对macOS版ChatGPT应用程序的新功能——长期记忆。这一漏洞利用了ChatGPT最近推出的持久记忆功能。通过精心构造的提示注入，黑客可以在ChatGPT的长期记忆中植入恶意命令，使其将用户的对话内容传送至远程服务器。更令人担忧的是，这种攻击甚至不需要直接访问用户账户，可通过编码在图像或网站中的有效载荷实现。图源备

最近，安全研究员约翰・瑞贝格（Johann Rehberger）发现了一个关于 ChatGPT 的漏洞，这个漏洞可能让黑客在用户的长期记忆中植入虚假的信息和恶意指令。虽然他向 OpenAI 报告了这个问题，但不幸的是，该公司并没有给予足够重视，迅速关闭了相关调查，声称这并不算是安全问题。面对这样的情况，瑞贝格决定不放弃，开发了一个概念验证的攻击示例，利用这个漏洞可以将用户的所有输入数据永久性地窃取。OpenAI 看到这一情况后，于本月发布了一部分修复措施，试图解决这个问题。那么，这个

黑客组织NullBulge声称成功入侵迪士尼内部通讯平台，窃取超1TB数据，并在网上泄露，为抗议迪士尼对待艺术家的“反艺术”立场。行动旨在保护艺术家权利，公平报酬，并对迪士尼使用人工智能处理合同与相似争议做出回应。泄露信息包括软件开发，招聘，网站维护与员工计划内部对话，时间跨度至少至2019年。NullBulge揭示文件内容涵盖即将上市游戏及已公告续集详细情况。与人工智能，AI生成艺术品以及对其行业影响威胁相关，非法入侵行为四出，显示了其一致策略与相关立场。活动暴露包含加密货币与人工智能应用在艺术家知识产权与制作流程范畴内的侵犯， nullbulge表示任何与此相关行为都将受到暂时阻止与损害打击。

由人工智能驱动的聊天机器人能够通过认证的道德黑客考试，但研究人员警告称，不应仅仅依赖它们来保护网络安全。该研究由密苏里大学的研究人员Prasad Calyam与印度阿姆里塔大学的合作者共同撰写，测试了OpenAI的ChatGPT和谷歌的Bard（现称Gemini）这两款领先的生成式AI工具。

​近日，据《纽约时报》报道，知名人工智能公司OpenAI的内部论坛遭到黑客攻击，引发了一系列安全问题。黑客成功获取了有关公司人工智能技术设计的详细信息，尽管并未侵入OpenAI实际构建AI的系统。

OpenAI 系统遭遇数据泄露事件，但不用担心您的 ChatGPT 会话内容是否被获取。虽然这次黑客攻击本身似乎只是肤浅的，但这提醒了我们，AI 公司已迅速成为黑客最渴望攻击的目标之一。据《纽约时报》报道，前 OpenAI 员工 Leopold Aschenbrenner 在一档播客中暗示了这次黑客攻击事件。他称之为 “一次重大安全事件”，但匿名公司消息人士告诉《纽约时报》，黑客仅获得了对员工讨论论坛的访问权限。

["纽约时报起诉OpenAI和微软侵犯版权","OpenAI反诉纽约时报进行黑客攻击","生成式AI模型与版权所有者的矛盾日益严重"]

["OpenAI声称《纽约时报》雇黑客攻击ChatGPT","OpenAI主张《纽约时报》雇黑客是关键","《纽约时报》使用提示词攻击ChatGPT","OpenAI反击公然违反产品使用条款","AI公司面临类似谷歌版权诉讼危机","互联网公司出售数据给AI公司","最新数据选择研究框架提议","AI生成内容加速铺开在互联网上","大模型承认使用AI生成的数据","文心一言等中文数据也重要"]

["OpenAI ChatGPT遭黑客入侵，公司采取创意反制措施“喵喵GPT”","黑客团队发现异常，被引入“猫语”陷阱","OpenAI员工秘密观望黑客社区对话","文章探讨大型AI模型安全挑战","OpenAI工程师透露GPU短缺影响产品发布速度"]

["黑客有机会通过使用人工智能来保护美国关键基础设施免受网络安全风险。","网络挑战赛将提供近2000万美元的奖金，并包括领先的人工智能公司的合作。","参赛者将被要求开源他们的系统，以便他们的解决方案可以广泛使用。"]

["在本周末的 DEF CON 上，数千名黑客将加入红队演习，攻击世界顶级的生成 AI 模型。","红队演习的目标是识别 AI 模型的弱点，并提供对嵌入伤害的反馈。","该活动是与 Humane Intelligence、SeedAI 和 AI Village 组织合作的首次公共生成 AI 红队活动。"]