白帽黑客Johann Rehberger近日揭露了一个令人震惊的安全漏洞,他发现ChatGPT可被黑客利用作为间谍软件,持续窃取用户数据。Rehberger将这种攻击方式命名为"SpAIware",主要针对macOS版ChatGPT应用程序的新功能——长期记忆。

这一漏洞利用了ChatGPT最近推出的持久记忆功能。通过精心构造的提示注入,黑客可以在ChatGPT的长期记忆中植入恶意命令,使其将用户的对话内容传送至远程服务器。更令人担忧的是,这种攻击甚至不需要直接访问用户账户,可通过编码在图像或网站中的有效载荷实现。

黑客,漏洞

图源备注:图片由AI生成,图片授权服务商Midjourney

尽管OpenAI最初对Rehberger的报告反应冷淡,但在他提供概念验证后,开发团队终于采取了行动。目前,OpenAI已发布部分修复程序,禁止ChatGPT将数据发送到远程服务器。然而,AI仍可接受来自不可信来源的提示,这意味着黑客仍能将恶意提示注入长期记忆。

Rehberger强调,这种攻击对用户几乎不可见,且具有持久性。即使用户开始新的对话,植入的恶意命令仍会继续窃取数据。目前,这一漏洞仅在ChatGPT的macOS应用版本中得到证实,网页版不受影响。

为防范潜在风险,用户应警惕使用ChatGPT扫描未知网站或图像。同时,建议定期检查应用程序的记忆工具,删除任何可疑条目。这一事件再次提醒我们,在享受AI便利的同时,"TrustNoAI"(不要信任AI)可能是我们都应该牢记的准则。