zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-11-09 10:21:09
.
AIbase
.
13.1k
研究发现:AI Agent 更易受弹窗干扰,攻击率高达 86%
近期,斯坦福大学和香港大学的研究人员发现,当前的 AI Agent(如 Claude)比人类更容易受到弹窗干扰,甚至在面对简单的弹窗时,它们的表现大幅下降。根据研究,AI Agent 在实验环境中面对设计好的弹窗时,平均攻击成功率达到86%,并使得任务成功率降低了47%。这一发现引发了对 AI Agent 安全性的新关注,尤其是在它们被赋予更多自主执行任务的能力时。在这项研究中,科学家们设计了一系列对抗性弹窗,目的是测试 AI Agent 的反应能力。研究表明,尽管人类可以识别并忽略这些弹窗,但 A