近日，网络安全公司 Kaspersky 发布了一项调查报告，揭露了网络犯罪分子如何利用一个假冒的 ChatGPT 应用程序来实施后门攻击和传播恶意软件。令人关注的是，这些攻击者的目标从2022年的亚洲转向了2024年的沙特阿拉伯，显示出他们的攻击策略正在不断演变。图源备注:图片由AI生成，图片授权服务商MidjourneyKaspersky 的研究显示，这次恶意活动涉及到名为 PipeMagic 的木马病毒。PipeMagic 是一种插件式木马，作为攻击的 “网关”，可以深入渗透企业网络。Kaspersky 的安全研究员 Sergey Lozhkin 表示，网

白帽黑客Johann Rehberger近日揭露了一个令人震惊的安全漏洞，他发现ChatGPT可被黑客利用作为间谍软件，持续窃取用户数据。Rehberger将这种攻击方式命名为"SpAIware"，主要针对macOS版ChatGPT应用程序的新功能——长期记忆。这一漏洞利用了ChatGPT最近推出的持久记忆功能。通过精心构造的提示注入，黑客可以在ChatGPT的长期记忆中植入恶意命令，使其将用户的对话内容传送至远程服务器。更令人担忧的是，这种攻击甚至不需要直接访问用户账户，可通过编码在图像或网站中的有效载荷实现。图源备

最近，安全研究员约翰・瑞贝格（Johann Rehberger）发现了一个关于 ChatGPT 的漏洞，这个漏洞可能让黑客在用户的长期记忆中植入虚假的信息和恶意指令。虽然他向 OpenAI 报告了这个问题，但不幸的是，该公司并没有给予足够重视，迅速关闭了相关调查，声称这并不算是安全问题。面对这样的情况，瑞贝格决定不放弃，开发了一个概念验证的攻击示例，利用这个漏洞可以将用户的所有输入数据永久性地窃取。OpenAI 看到这一情况后，于本月发布了一部分修复措施，试图解决这个问题。那么，这个

黑客组织NullBulge声称成功入侵迪士尼内部通讯平台，窃取超1TB数据，并在网上泄露，为抗议迪士尼对待艺术家的“反艺术”立场。行动旨在保护艺术家权利，公平报酬，并对迪士尼使用人工智能处理合同与相似争议做出回应。泄露信息包括软件开发，招聘，网站维护与员工计划内部对话，时间跨度至少至2019年。NullBulge揭示文件内容涵盖即将上市游戏及已公告续集详细情况。与人工智能，AI生成艺术品以及对其行业影响威胁相关，非法入侵行为四出，显示了其一致策略与相关立场。活动暴露包含加密货币与人工智能应用在艺术家知识产权与制作流程范畴内的侵犯， nullbulge表示任何与此相关行为都将受到暂时阻止与损害打击。

由人工智能驱动的聊天机器人能够通过认证的道德黑客考试，但研究人员警告称，不应仅仅依赖它们来保护网络安全。该研究由密苏里大学的研究人员Prasad Calyam与印度阿姆里塔大学的合作者共同撰写，测试了OpenAI的ChatGPT和谷歌的Bard（现称Gemini）这两款领先的生成式AI工具。

​近日，据《纽约时报》报道，知名人工智能公司OpenAI的内部论坛遭到黑客攻击，引发了一系列安全问题。黑客成功获取了有关公司人工智能技术设计的详细信息，尽管并未侵入OpenAI实际构建AI的系统。

OpenAI 系统遭遇数据泄露事件，但不用担心您的 ChatGPT 会话内容是否被获取。虽然这次黑客攻击本身似乎只是肤浅的，但这提醒了我们，AI 公司已迅速成为黑客最渴望攻击的目标之一。据《纽约时报》报道，前 OpenAI 员工 Leopold Aschenbrenner 在一档播客中暗示了这次黑客攻击事件。他称之为 “一次重大安全事件”，但匿名公司消息人士告诉《纽约时报》，黑客仅获得了对员工讨论论坛的访问权限。

["纽约时报起诉OpenAI和微软侵犯版权","OpenAI反诉纽约时报进行黑客攻击","生成式AI模型与版权所有者的矛盾日益严重"]

["OpenAI声称《纽约时报》雇黑客攻击ChatGPT","OpenAI主张《纽约时报》雇黑客是关键","《纽约时报》使用提示词攻击ChatGPT","OpenAI反击公然违反产品使用条款","AI公司面临类似谷歌版权诉讼危机","互联网公司出售数据给AI公司","最新数据选择研究框架提议","AI生成内容加速铺开在互联网上","大模型承认使用AI生成的数据","文心一言等中文数据也重要"]

["OpenAI ChatGPT遭黑客入侵，公司采取创意反制措施“喵喵GPT”","黑客团队发现异常，被引入“猫语”陷阱","OpenAI员工秘密观望黑客社区对话","文章探讨大型AI模型安全挑战","OpenAI工程师透露GPU短缺影响产品发布速度"]

["黑客有机会通过使用人工智能来保护美国关键基础设施免受网络安全风险。","网络挑战赛将提供近2000万美元的奖金，并包括领先的人工智能公司的合作。","参赛者将被要求开源他们的系统，以便他们的解决方案可以广泛使用。"]

["在本周末的 DEF CON 上，数千名黑客将加入红队演习，攻击世界顶级的生成 AI 模型。","红队演习的目标是识别 AI 模型的弱点，并提供对嵌入伤害的反馈。","该活动是与 Humane Intelligence、SeedAI 和 AI Village 组织合作的首次公共生成 AI 红队活动。"]