量子计算的崛起既是技术变革的巨大推动力，也对现有的网络安全框架构成潜在的颠覆。专家警告，我们正处于为量子计算做关键准备的时期，必须确保我们的数字基础设施能够抵御量子计算机的攻击，因为量子计算机预计将能破解目前的一些加密技术。2024年8月，美国国家标准与技术研究院（NIST）发布了三项后量子密码学标准，标志着这一准备工作取得了重大进展。这些标准是在全球顶尖密码学家经过八年合作的基础上建立的，旨在保护系统免受未来量子威胁的侵害。尽管如此，专家也

美国国土安全部部长亚历杭德罗・马约卡斯（Alejandro Mayorkas）针对欧盟在人工智能(AI)领域的监管努力发表了严厉的批评。他表示，欧美在如何监管人工智能公司方面存在显著差异，这可能会加剧两者之间的紧张关系。图源备注:图片由AI生成，图片授权服务商Midjourney马约卡斯指出，欧盟的监管框架可能过于严苛，抑制了技术创新的步伐。他对欧盟希望对主要 AI 公司实施更严格的监管表示担忧，认为这可能会影响到全球科技行业的发展。在马约卡斯的讲话中，他强调了美国在人工智能领域的

新南威尔士大学悉尼分校（UNSW Sydney）日前宣布，与美国人工智能公司 OpenAI 达成合作协议，成为亚太地区首所引入 ChatGPT Edu 的高校。这一合作将使得 UNSW 的研究人员、教育工作者和学生能够在一个安全的平台上使用 OpenAI 的人工智能工具，确保学术知识产权得到保护，同时也能保留使用过程中生成的提问内容的私密性。图源备注:图片由AI生成，图片授权服务商Midjourney此项合作让 UNSW 与牛津大学、哥伦比亚大学、亚利桑那州立大学、伦敦商学院及宾夕法尼亚大学沃顿商学院等国际知名高校

微信珊瑚安全近日发布公告，强调了平台对于打击利用AI技术仿冒知名人士进行不当营销行为的决心。公告中提到，微信致力于打造一个安全、健康、绿色的网络环境，针对近期出现的利用AI技术仿冒名人进行营销的现象，微信已经迅速采取行动，严肃处理了一批违规行为。

在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月，安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入，AI竟然可以被诱导下载并运行恶意软件。Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中，他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架，但现已被黑客广泛用作恶意软件工具。更令人担忧的是，这仅仅是冰山一角。研究人员指出，AI还可以被诱导编写、编译并运

近日，ComfyUI社区广受欢迎的插件 Impact-Pack 被曝存在严重安全漏洞，导致其依赖的 Ultralytics 包（版本8.3.41和8.3.42）被黑客植入了加密货币挖矿病毒。由于 Impact-Pack 是几乎每位用户都会安装的插件，许多人可能因此受到了影响。病毒通过恶意修改的 Ultralytics 包自动下载并执行恶意程序，连接到可疑的矿池地址（connect.consrensys.com:8080）进行挖矿操作。病毒在后台悄无声息地运行，严重占用系统资源，并会自动删除执行文件以逃避检测。目前，尚不清楚黑客是如何攻击的，也没有明确证据表明

一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为"p0pular.eth"的黑客仅通过精心设计的文字提示，成功"骗取"了价值47，000美元的加密货币。这个令人震惊的案例揭示了当前AI系统中存在的严重安全漏洞。黑客的攻击过程堪称教科书式的社会工程学操作:首先，黑客伪装成拥有管理员权限，巧妙地绕过了系统的安全警告机制。通过重新定义"approveTransfer"函数，他让机器人误以为自己正在处理incoming（接收）支付，而非原本被禁止

科技江湖再现惊心动魄的安全革命!Alan AI推出划时代的私有AI平台，为企业级生成式AI应用开辟了一条全新的安全通道!这不仅仅是一次技术升级，更是对数据安全的一次战略性宣言!想象一个完全"与世隔绝"的AI世界，数据如同被layer层层保护的战略要塞，这就是Alan AI私有云平台的独特魔力!作为业界唯一100%实现空气间隔的企业级生成式AI服务，它正在重新定义数据安全的底线。图源备注：图片由AI生成，图片授权服务商Midjourney关键技术解析:Alan AI的私有AI平台提供两种惊艳的部署模式:独立配置

北京市海淀区人民法院已正式受理字节跳动对前实习生田某某的起诉，该公司指控田某某篡改代码攻击公司内部模型训练，并请求法院判令田某某赔偿侵权损失800万元及合理支出2万元，同时要求其公开赔礼道歉。

Inflection AI，曾经是一家炙手可热的初创公司，近日宣布放弃在 AI 模型竞争领域的努力，将重点转向为企业客户提供服务。该公司的新任首席执行官 Sean White 表示，Inflection 不再试图与领先的 AI 实验室竞争，而是专注于满足企业客户的需求。Inflection 近期收购了三家初创公司，包括 Jelled.AI、BoostKPI 和 Boundaryless，以扩大其产品和服务。该公司表示，其 AI 模型可以在本地运行，相比之下领先 AI 实验室的产品必须在云端运行，这对于希望确保数据安全的企业来说尤其有吸引力。图源备注：图片

英国兰开斯特公爵大臣帕特·麦克法登将于周一在伦敦北约会议上发出警示:俄罗斯等对英国持敌对态度的国家正试图利用人工智能增强对英国基础设施的网络攻击能力。为应对这一新兴威胁，英国政府将投资820万英镑，联合政府通信总部（GCHQ）等机构在伦敦成立人工智能安全研究实验室(LASR)。该实验室将重点研究如何防范可能针对电网等关键基础设施的高级网络攻击。图源备注：图片由AI生成，图片授权服务商Midjourney麦克法登指出，英国目前实际上正在进行一场"日常网络战"，其中来自俄

今日，360公司创始人周鸿祎在微博上宣布，360计划在本月发布一款全新产品，并邀请网友为其命名。周鸿祎表示，目前公司已有一款名为 “360AI搜索” 的产品，该产品在 PC 端的用户访问量上是国内最大的原生 AI 应用，反映出搜索是普通用户使用 AI 的最佳场景之一。这次希望在360AI搜索的基础上，再次颠覆自我，也颠覆搜索，做出一个人人都能用的AI应用。周鸿祎提到，重新命名的原因在于，尽管 “360” 这个品牌在消费者心中与安全联系紧密，但他希望新产品能够体现 AI 的概念。因此，

在人工智能日益普及的今天，越来越多的用户开始通过ChatGPT、Google Gemini等AI聊天机器人咨询医疗问题，甚至有人将X光片、核磁共振（MRI）和PET扫描等医疗影像上传至社交平台X的AI助手Grok寻求解读。然而，这种做法可能带来严重的隐私安全隐患。尽管医疗数据受到联邦法律的特殊保护，但一旦用户主动选择绕过这些保护机制，将面临以下风险:数据训练风险生成式AI模型通常会利用接收到的数据进行训练，以提高输出的准确性。但是，用户上传的数据具体如何使用、用于什么目的，以及与谁

根据供应链分析师郭明錤的最新报告，苹果公司正在积极开发一款智能安全摄像头，计划于2026年开始量产。这款摄像头将会是苹果进军智能家居领域的重要一步，预计年销量将超过1000万台。据悉，这款摄像头旨在与其他苹果硬件产品实现无缝连接，并有可能与苹果的人工智能技术和 Siri 语音助手深度整合。这样的设计不仅能提高用户体验，还将使摄像头具备更强的智能化功能，能够提供更为全面的家庭安全解决方案。苹果在智能家居领域的竞争对手包括亚马逊和谷歌，这两家公司都已经

近日，一起发生在Facebook蘑菇爱好者群组的事件，再次引发了对AI应用安全性的担忧。据404Media报道，一个名为"FungiFriend"的AI代理潜入了拥有1.3万成员的"东北蘑菇识别与讨论"群组，并给出了具有潜在致命风险的错误建议。当被询问如何烹饪含有高浓度砷的Sarcosphaera coronaria蘑菇时，FungiFriend不仅错误地表示该蘑菇"可以食用"，还详细介绍了包括煎炒、炖煮等多种烹饪方法。而事实上，这种蘑菇已经造成过致命案例。消费者安全组织Public Citizen的研究主管Rick Claypool指出，利用AI自动化识别可食用

近年来，人工智能（AI）的快速发展为企业带来了诸多机遇，但与此同时，其潜在的威胁也日益显现。根据最新发布的2024《新一代风险报告》，调查显示，竟有高达80% 的受访企业尚未针对生成式 AI 风险制定专门的应对计划，这其中包括了 AI 驱动的网络诈骗等安全隐患。该调查由风险管理软件公司 Riskconnect 进行，受访者包括218名全球风险合规与韧性专业人士。结果显示，24% 的受访者认为，未来12个月，AI 驱动的网络安全威胁（如勒索软件、网络钓鱼和深度伪造）将对企业产生重大影响。同

近日，OpenAI 的华人副总裁翁荔宣布将于11月15日正式离职。翁荔毕业于北京大学，曾是 OpenAI 安全系统团队的负责人，也是 ChatGPT 的重要贡献者之一。她在2018年加入 OpenAI，参与了包括 GPT-4在内的多个重要项目，特别是在模型安全、预训练及强化学习等方面。在她的职业生涯中，翁荔提出了 “Agent = 大模型 + 记忆 + 主动规划 + 工具使用” 的著名公式，为 AI 的研究和应用提供了重要的理论支持。翁荔曾2024B 站超级科学晚活动中发表了关于 “AI 安全与培养” 的主题演讲，受到广泛关注和讨论。

法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API，旨在与 OpenAI 及其他行业领军者展开竞争，同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型，经过精细调优，能够在九个不同类别中检测潜在的有害内容，包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调，“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为，系统级的安全防

Meta 公司近日宣布，将其 Llama 系列人工智能模型向美国政府机构及相关承包商开放，以支持国家安全应用。这一举措旨在消除外界对其 “开放” 人工智能可能助长外国对手的看法。Meta 在一篇博客文章中表示:“我们很高兴地确认，Llama 将向美国政府机构提供，包括那些专注于国防和国家安全的项目，以及支持这些工作的私营部门合作伙伴。”为推动这一项目，Meta 与多家知名公司达成了合作，包括埃森哲、亚逊网络服务、安迪尔、博思艾伦、Databricks、德勤、IBM、莱多斯、洛克希德・马丁

最近，AI 编程助手火得一塌糊涂，号称能帮程序员写代码、提高效率。不少程序员甚至把它当成了“救星”，恨不得天天抱着它写代码。但是，斯坦福大学的一项研究却给这些“狂热粉”泼了盆冷水:AI 编程助手可能是个“安全噩梦”!斯坦福大学的研究人员找来了47个程序员，让他们完成五项与安全相关的编程任务，涵盖了 Python、JavaScript 和 C 三种语言。结果发现，那些用 AI 助手写代码的程序员，写的代码安全性明显更差!这可不是危言耸听。AI 编程助手就像个“不靠谱的实习生”，虽然能