AI 安全公司 Adversa AI 发布了一项令人震惊的报告，称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。Adversa 的研究团队发现，这款最新的 AI 模型容易受到 “简单的越狱攻击”，这可能使不法分子能够获取诸如 “如何诱骗儿童、处理尸体、提取 DMT 以及制造炸弹” 等敏感信息。更糟糕的是，Adversa 的首席执行官兼联合创始人亚历克斯・波利亚科夫表示，这次漏洞不仅仅是越狱攻击那么简单，他们还发现了一种新的 “提示泄露” 缺陷，暴露了 Grok 模型的完整系

在人工智能领域备受瞩目的 OpenAI 联合创始人伊利亚・苏茨克夫（Ilya Sutskever）正在为他的新创业公司 “安全超智能”(Safe Superintelligence，简称 SSI)筹集超过10亿美元的资金，估值已超过300亿美元。这一数字使得 SSI 跃升为全球最有价值的私人科技公司之一。图源备注：图片由AI生成，图片授权服务商Midjourney据知情人士透露，来自旧金山的风险投资公司 Greenoaks Capital Partners 正在主导此次融资，并计划投资5亿美元。Greenoaks 本身也曾投资于多家 AI 公司，如 Scale AI 和 Databricks。根据路透社的报道

近日，来自哥伦比亚大学和马里兰大学的研究团队发布了一项新研究，揭示了拥有互联网访问能力的 AI Agent在安全性方面存在严重漏洞。这项研究显示，攻击者可以利用简单的操控手段，轻易地诱骗这些 AI 系统泄露用户的私人信息、下载恶意文件，甚至向用户的联系人发送诈骗邮件。这些攻击不需要任何专业的 AI 或编程知识，令人震惊。图源备注：图片由AI生成，图片授权服务商Midjourney研究团队对多个知名的 AI Agent进行了测试，包括 Anthropic 公司的计算机助手、MultiOn Web Agent和 ChemCrow 研究

随着 Android 用户数量突破30亿，谷歌在保护用户安全方面的压力与日俱增。为了应对日益猖獗的网络攻击，谷歌宣布加大对人工智能（AI）的投入，以提升恶意软件检测能力、加强隐私保护措施，并为开发者提供更完善的工具。通过这些努力，谷歌在过去一年中成功阻止了236万款违反政策的应用程序发布在 Google Play 商店。此外，谷歌还封禁了超过15万个意图发布有害应用的开发者账户。谷歌表示，其先进的人工智能技术在恶意应用审核中发挥了重要作用，超过92% 的恶意应用审查都是由人工

英国政府近期宣布，将原本名为 “AI 安全研究所” 的机构更名为 “AI 安全研究院”，此举标志着政府在 AI 领域战略的重大转变。新的名称不仅反映了机构的职能变化，也表明了英国政府在推动 AI 产业发展方面的坚定决心。图源备注:图片由AI生成，图片授权服务商Midjourney这一变化由科学、工业与技术部公布，新的 AI 安全研究院将重点关注网络安全，旨在 “加强对 AI 对国家安全及犯罪风险的保护”。原本侧重于探讨大语言模型的生存风险和偏见问题，如今将更多的精力转向如何利用 AI 技

在短短六天内，参与者成功绕过了Anthropic人工智能（AI）模型Claude3.5的所有安全防护措施，这一突破为AI安全防护领域带来了新的讨论。前OpenAI对齐团队成员、现就职于Anthropic的Jan Leike在X平台宣布，一名参与者成功攻破了所有八个安全级别。这项集体努力涉及了约3，700小时的测试和来自参与者的300，000条消息。尽管挑战者成功突破，但Leike强调，目前还没有人能够提出一种通用的“越狱方法”来一次性解决所有安全挑战。这意味着尽管存在突破，依然无法找到一种万能的方式来绕过所有的

在近日于巴黎举行的人工智能行动峰会上，OpenAI 首席执行官萨姆・奥特曼对埃隆・马斯克的收购提议作出了强烈回应。据报道，马斯克所领导的财团计划以974亿美元的价格收购 OpenAI 的控股权，奥特曼对此表示反对，并指出这是马斯克一系列策略中的最新举动。他认为，马斯克的意图或许是想让 OpenAI 的发展速度减缓。奥特曼在采访中坦言，OpenAI 并不是一个待售的公司。他进一步批评了马斯克的策略，并强调，希望马斯克能够通过竞争与产品创新来证明自己，而不是采取其他手段。他提到

在当今的数字时代，儿童的在线安全问题愈发引起重视。近日，Roblox、Discord、OpenAI 与谷歌联合推出了一个名为 ROOST（强大开放在线安全工具）的非营利组织，旨在为 AI 时代构建一个可扩展且互联互通的安全基础设施。这个新组织的目标是为公共和私人机构提供开源安全工具，以帮助它们在自身平台上加强保护，特别关注儿童的安全。图源备注:图片由AI生成，图片授权服务商MidjourneyROOST 的成立是在对生成式 AI 快速发展的回应下。随着网络环境的变化，孩子们面临的风险日益增加，因此对

前 OpenAI 联合创始人伊利亚・苏茨基弗（Ilya Sutskever）领导的人工智能初创公司SSI(Safe Superintelligence)，目前正在进行新一轮融资谈判，预计公司的估值将达到200亿美元，较去年九月的估值翻了四倍。尽管 SSI 尚未实现任何收入，但这一巨额估值反映了投资者对其潜在开发变革性 AI 技术的信心。与其他人工智能公司不同，SSI 专注于研发 “安全超级智能”，而不是像 ChatGPT 那样首先推出商业产品。该公司目前处于纯研究阶段，目标是实现人工超级智能（ASI）。这一 “ASI” 目标也可能是苏茨基

奇安信XLab实验室2月6日发布最新安全报告，揭示了一波针对DeepSeek用户的大规模网络钓鱼活动。数据显示，仿冒DeepSeek的钓鱼网站数量已超过2000个，且仍在持续增长。根据报告，在2024年12月1日至2025年2月3日期间，共发现2650个仿冒DeepSeek的域名。这波仿冒域名注册活动始于2025年1月26日，并在1月28日达到高峰。尽管增速有所放缓，但仿冒网站数量仍在持续攀升。这些仿冒网站主要通过三种方式进行欺诈:窃取用户登录凭证、利用相似域名和界面误导用户、诱骗用户购买虚拟资产。在地理分布上

近日，启明星辰在其官方微信上宣布，已完成 “安星” 智能体与 DeepSeek 大模型的全面对接。这一整合标志着启明星辰在信息安全领域迈出了重要一步，特别是在安全运营、威胁检测、威胁情报和数据安全等多个业务场景中的应用。启明星辰作为中国领先的信息安全解决方案提供商，一直致力于提升安全防护能力。此次与 DeepSeek 大模型的对接，不仅增强了公司的技术实力，还提升了其在智能化安全服务领域的竞争力。DeepSeek 大模型是一种前沿的人工智能技术，能够通过深度学习和自然语言

美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。图源备注:图片由AI生成，图片授权服务商Midjourney凯利自去年上任以来，负责监督该研究所的初步工作，旨在评估和应对日益强大的人工智能系统所带来的风险。她与多家初创企业达成了合作协议，包括 OpenAI 和 Anthropic，允许该研究所在这些公司发布 AI 模型之前进行测试。

近日，奇安信公司宣布已成功完成与 DeepSeek（深度求索）的全面深度接入，标志着其 QAX 安全大模型的进一步应用与发展。奇安信表示，这一安全大模型已在多个关键领域展开了深度整合，涵盖了威胁研判、安全运营、渗透测试与漏洞管理、身份与访问管理等重要场景。图源备注：图片由AI生成，图片授权服务商Midjourney在当前信息安全形势愈发严峻的背景下，网络攻击手段日益复杂，奇安信的这一举措无疑是对抗网络威胁的积极回应。通过与 DeepSeek 的合作，奇安信旨在充分发挥 QAX 安全大

最近，Gmail 用户面临着一场前所未有的网络安全危机。根据报道，这种攻击被认为是迄今为止最复杂的网络钓鱼攻击，甚至让一些知名的安全专家也差点中招。攻击者利用人工智能技术，伪装成 Google 客服，向用户发出紧急警告，声称其账户存在安全问题，企图诱导用户提供个人信息。事件的发生，让人难以置信。一位名叫扎克・拉特塔（Zach Latta）的受害者分享了他的经历:他接到了一个来自 “Google 支持” 的电话，通话质量非常清晰，对方以流利的美国口音告知他账户被暂时锁定。更令人

近日，国产大模型DeepSeek在全球AI领域崭露头角，其展现出的技术实力令人瞩目，但同时也遭遇了外部网络攻击的威胁。在此背景下，360集团创始人周鸿祎宣布，360将无偿为DeepSeek提供全方位的网络安全防护，以实际行动支持国产AI技术的发展。

Character AI，一家允许用户与 AI 聊天机器人进行角色扮演的平台，近日在佛罗里达州中区美国地方法院申请驳回由一名青少年家长提起的诉讼。该家长 Megan Garcia 指控 Character AI 的技术对她14岁的儿子 Sewell Setzer III 造成了伤害，称其在与名为 “Dany” 的聊天机器人交流时，逐渐与现实世界隔绝，并最终导致自杀。在 Setzer 去世后，Character AI 表示将推出一系列安全功能，以提升对违反服务条款的聊天内容的检测和干预能力。然而，Garcia 希望平台能够实施更严格的限制，例如禁止聊天机器人讲述

在最新的2025年 JP 摩根医疗会议上，英伟达与 Innophore 宣布了一项激动人心的合作，计划于2025年1月底推出名为 CavitOmiX 的人工智能（AI）驱动药物安全筛选平台。该平台旨在通过对蛋白质结合位点的分析，提升药物设计的效率和准确性，标志着药物研发领域的一次革命性变革。Innophore 的首席执行官 Christian Gruber 在接受《制药科技》独家采访时表示，CavitOmiX 将利用英伟达强大的计算能力，提升药物设计过程中的预测速度和准确性。该平台的开发基于多项先进技术，包括英伟达的 BioNeMo、DeepMi

最近，一位德国安全研究员本杰明・弗莱施在微软的 GitHub 上发布了一份报告，指出 OpenAI 的 ChatGPT API 存在一个严重的安全漏洞，可能被利用发起分布式拒绝服务（DDoS）攻击。该漏洞使得攻击者可以通过简单的 HTTP 请求，利用 ChatGPT 的爬虫程序，向任意网站发起大规模的网络请求，甚至可能导致目标网站瘫痪。图源备注：图片由AI生成，图片授权服务商Midjourney根据弗莱施的报告，ChatGPT 的 API 在处理指向特定网站的 HTTP POST 请求时，表现出严重的缺陷。当 ChatGPT 引用某个网站时，它会调用一

近日，微软公司通过其数字犯罪部门（Digital Crimes Unit）采取法律行动，旨在打击那些利用生成式人工智能(AI)工具进行网络犯罪的行为。根据在维吉尼亚州东区提交的一份未公开的投诉，微软表示，尽管公司在不断努力提升其 AI 产品和服务的安全性，网络犯罪分子依然在不断创新，试图绕过安全防护措施以制造有害内容。微软指出，一些网络犯罪团伙正利用生成式 AI 技术，针对易受攻击的客户账户，开发出各种恶意工具。这些工具能够逃避现有的安全守护措施，从而对个人和组织构成威胁

近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列实用的解决方案。其中，内容安全服务（Content Safety）可以在 AI 响应用户之前，对其内容进行审核，检测是否存在潜在的有害信息。这项服务有助于防止不当内容传播，确保用户得到安全和合适的信息。另外，主题控制服务（Topic Control）旨在确保聊天内容保持在预先设定的主题范围内。这意味着，聊天机器人能够