搜索全球AI产品动态

随着 Android 用户数量突破30亿，谷歌在保护用户安全方面的压力与日俱增。为了应对日益猖獗的网络攻击，谷歌宣布加大对人工智能（AI）的投入，以提升恶意软件检测能力、加强隐私保护措施，并为开发者提供更完善的工具。通过这些努力，谷歌在过去一年中成功阻止了236万款违反政策的应用程序发布在 Google Play 商店。此外，谷歌还封禁了超过15万个意图发布有害应用的开发者账户。谷歌表示，其先进的人工智能技术在恶意应用审核中发挥了重要作用，超过92% 的恶意应用审查都是由人工

在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月，安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入，AI竟然可以被诱导下载并运行恶意软件。Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中，他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架，但现已被黑客广泛用作恶意软件工具。更令人担忧的是，这仅仅是冰山一角。研究人员指出，AI还可以被诱导编写、编译并运

最近，OpenAI 发出警告，称其人工智能模型 ChatGPT 正被网络犯罪分子用来进行各种恶意活动，包括开发恶意软件、传播虚假信息和进行网络钓鱼攻击。根据一份新报告，自2024年初以来，OpenAI 已经在全球范围内干预了超过20起欺骗性操作，揭示了 AI 被滥用的严峻趋势。这些活动不仅包括调试恶意软件，还涉及为虚假的社交媒体账号撰写内容和生成诱人的钓鱼信息。OpenAI 表示，其使命是确保这些工具为人类的共同利益服务，因此公司正致力于发现、预防和打击滥用其模型的行为。尤其是在这个

["谷歌新 AI 搜索功能或存在问题，可能推广欺诈网站和恶意软件。","用户反映搜索结果指向垃圾网站，存在潜在的恶意软件风险。","谷歌声称在解决问题，但此事件凸显其处理垃圾网站挑战。","此问题引发关注，谷歌在 AI 搜索领域仍面临挑战和改进空间。"]

["研究人员创建名为'Morris II'的计算机蠕虫","蠕虫可以操纵生成式人工智能系统执行恶意任务","通过不断复制和感染新的系统扩散并执行破坏性行为","专门针对生成AI生态系统和代理互联网络发起攻击","研究人员警告此类攻击对智能手机和汽车等领域的影响"]