Meta 公司近日宣布，将其 Llama 系列人工智能模型向美国政府机构及相关承包商开放，以支持国家安全应用。这一举措旨在消除外界对其 “开放” 人工智能可能助长外国对手的看法。Meta 在一篇博客文章中表示:“我们很高兴地确认，Llama 将向美国政府机构提供，包括那些专注于国防和国家安全的项目，以及支持这些工作的私营部门合作伙伴。”为推动这一项目，Meta 与多家知名公司达成了合作，包括埃森哲、亚逊网络服务、安迪尔、博思艾伦、Databricks、德勤、IBM、莱多斯、洛克希德・马丁

最近，AI 编程助手火得一塌糊涂，号称能帮程序员写代码、提高效率。不少程序员甚至把它当成了“救星”，恨不得天天抱着它写代码。但是，斯坦福大学的一项研究却给这些“狂热粉”泼了盆冷水:AI 编程助手可能是个“安全噩梦”!斯坦福大学的研究人员找来了47个程序员，让他们完成五项与安全相关的编程任务，涵盖了 Python、JavaScript 和 C 三种语言。结果发现，那些用 AI 助手写代码的程序员，写的代码安全性明显更差!这可不是危言耸听。AI 编程助手就像个“不靠谱的实习生”，虽然能

最近，纽约市的一个 AI 武器扫描试点项目的结果让人瞠目结舌。这个名为 Evolv 的科技公司所提供的扫描设备，在为地铁系统进行的试验中，居然没有发现一把枪，却找出了12把刀。图源备注:图片由AI生成，图片授权服务商Midjourney这项在7月底开始的试验仅持续了一个月，结果令人失望。根据 CBS 纽约的报道，尽管设备检测出了12把刀，但并没有产生任何逮捕记录，这让法律援助协会的律师戴安・阿克曼感到不满。她表示，这意味着这些刀可能都是合法的，完全没有必要对118名乘客进行额外的

近日白宫发布了一份关于如何在国家安全领域使用人工智能（AI）的新备忘录。这份备忘录是去年乔・拜登总统签署的一项以人工智能为重点的行政命令的成果。除了发布备忘录，这项命令还启动了多项机器学习计划，旨在提高人工智能的安全性，其中一项计划将利用这一技术来发现和修复关键软件中的漏洞。图源备注：图片由AI生成，图片授权服务商Midjourney备忘录的一个重点是政府在国家安全任务中采购人工智能技术的方式。联邦机构将被要求简化这一领域的采购流程，尤其要更加重视

最近，OpenAI 再传离职消息，安全政策顾问及 AGI 准备团队负责人米尔・布伦达奇（Miles Brundage）宣布将离开公司，并透露他所领导的团队也将解散，成员将被重新分配到其他部门。布伦达奇在社交媒体平台 X 上发布了一篇文章，详细解释了自己的决定。他表示，离开 OpenAI 的原因主要是想要拥有更多的独立性和发表研究的自由。值得注意的是，布伦达奇并不是唯一一位高层离职的安全研究者。早在今年5月，OpenAI 就解散了其超级对齐团队，这个团队主要负责人工超级智能的风险评估。此后，

就在苹果即将推出其私人 AI 云服务 “私有云计算（Private Cloud Compute）” 之际，这家科技巨头决定向安全研究人员提供高达100万美元的奖励，旨在发现可能危害其云服务安全的漏洞。苹果在其安全博客上发布了一则消息，明确表示任何能够报告远程执行恶意代码的漏洞的研究人员，将有机会获得最高100万美元的奖金。图源备注：图片由AI生成，图片授权服务商Midjourney此外，苹果还为那些私下报告能够提取用户敏感信息或提交给私人云的提示的漏洞提供最高25万美元的奖励。他们特别提到，

近日，网络安全公司 Palo Alto Networks 的 Unit42研究团队发布了一项令人瞩目的研究，揭露了一种名为 “Deceptive Delight”的新型越狱方法。这个方法能够在仅仅两到三次交互中，就成功诱导大型语言模型（LLM）生成有害内容，其成功率高达65%。这一发现为保护 LLM 的安全性敲响了警钟。图源备注：图片由AI生成，图片授权服务商Midjourney研究团队在测试中分析了多达8000个案例，并评估了八种不同的语言模型。在这个越狱技术的第一步，攻击者首先会要求 LLM 生成一个叙述，这个叙述包含两个无害

新加坡最近在网络安全方面发布了一系列重要公告，特别是针对人工智能（AI）系统的安全指南，以及禁止在选举广告中使用深度伪造技术的立法。这些举措旨在帮助组织在 AI 的开发和部署过程中降低潜在风险，确保技术的安全性。图源备注:图片由AI生成，图片授权服务商Midjourney新加坡网络安全局（CSA）推出的《AI 系统安全指南》强调了 “设计即安全” 的理念，旨在帮助企业识别和应对各种网络安全威胁。指南分为五个阶段，涵盖了 AI 生命周期的各个环节，包括开发、运营和维护，甚至

家庭安全服务提供商SimpliSafe宣布在其每月订阅服务中增加Active Guard Outdoor Protection。这一新的服务层级为家庭安全服务增加了24/7监控的额外保护。户外保护专业版的费用为每月50美元，其中包括了这家总部位于波士顿的公司标准32美元的室内监控服务。这项新服务将只通过一个新的硬件设备提供，即户外安全摄像头系列2。SimpliSafe表示，限制使用新硬件的原因是其前代产品无法运行其“熟悉面孔AI”功能，该功能确保用户在自己家中不会触发误报。如果系统无法根据以往的训练识别出人，将

近日，网络安全公司 Kaspersky 发布了一项调查报告，揭露了网络犯罪分子如何利用一个假冒的 ChatGPT 应用程序来实施后门攻击和传播恶意软件。令人关注的是，这些攻击者的目标从2022年的亚洲转向了2024年的沙特阿拉伯，显示出他们的攻击策略正在不断演变。图源备注:图片由AI生成，图片授权服务商MidjourneyKaspersky 的研究显示，这次恶意活动涉及到名为 PipeMagic 的木马病毒。PipeMagic 是一种插件式木马，作为攻击的 “网关”，可以深入渗透企业网络。Kaspersky 的安全研究员 Sergey Lozhkin 表示，网

Nvidia最近发布了一款新的容器安全应用，该应用允许开发者定制以满足他们对AI驱动的网络安全的需求。全球咨询公司德勤（Deloitte）已被宣布为首批用户之一。Nvidia的NIM Agent Blueprint包含了企业开发者构建和部署定制化生成AI应用所需的一切，这些应用可以快速对软件容器进行漏洞分析。该应用通过使用Nvidia的NIM微服务、Morpheus网络安全AI框架、cuVS和RAPIDS加速数据分析等应用，能够将企业规模的常见漏洞和曝光（CVE）分析从天缩短到几秒钟。软件容器包含了大量的包和版本，其中一些可能存

在人工智能技术飞速发展的当下，Anthropic 公司近日宣布更新其 “责任扩展政策（RSP）”，这一政策旨在有效管理高能力 AI 系统所带来的潜在风险。作为开发热门聊天机器人 Claude 的公司，Anthropic 此举显然是想在不断增强的 AI 能力与必要的安全标准之间找到平衡。这项新政策引入了所谓的能力阈值，作为 AI 模型能力提升时，额外安全保障的明确标志。这些阈值涵盖了诸如生物武器制造和自主 AI 研究等高风险领域，显示出 Anthropic 致力于防止其技术被恶意利用的决心。值得一提的是，政策

OpenAI在经历了CTO等多位高管相继离职的一系列人事动荡，这家公司逐渐注入新鲜血液，迎来了新的人员加入。最近，前 Palantir 的首席信息安全官 Dane Stuckey 宣布加入 OpenAI，担任该公司的新任首席信息安全官（CISO）。这个消息是在他周二晚上通过社交媒体 X 发布的，他对未来的工作充满期待。Stuckey 在宣布中提到，安全性对 OpenAI 的使命至关重要。他表示，确保合规性、信任和安全的最高标准是保护数以亿计用户的产品安全的关键。他还强调，推动安全的人工智能（AGI）发展对全人类都有益

近年来，人工智能（AI）成为了全球热议的话题，自从 OpenAI 推出 ChatGPT 以来，尤其如此。而美国的国防和安全机构也迅速行动起来，开始大规模投入 AI 项目。图源备注:图片由AI生成，图片授权服务商Midjourney根据《财富》杂志的分析，国防部（DoD）在过去两年中共签署了约6.7亿美元的合同，涉及近323家公司，专注于多种 AI 相关项目。这一数字比2021和2022年增长了20%，无论是在合作公司数量还是合同总额上都显著增加。与此同时，国土安全部（DHS）也没有落后，最近两年共支付了2200万美元的

根据 OReilly 的《2024年安全状况》报告，安全团队在人工智能 （AI） 和云实施方面存在巨大的技能差距。报告显示，近39% 的安全团队受访者表示，云计算是一个需要更多技能但很难找到的领域。云安全是一个复杂的领域，需要采用访问控制和最小特权等概念，并将它们应用于云供应商提供的 API 进行控制。任何服务中的错误都可能危及整个基础设施，因此基础设施即代码成为关键。“云安全需要采用访问控制和最小特权等概念，并将它们应用于您永远看不到的服务器和服务，并且只能通过

昨天，中国首个汽车智能安全评价体系在重庆正式发布。该体系将对智能汽车的环境感知、决策控制、应急响应等多个维度进行评价，是我国在智能汽车安全评价领域的重大突破。据了解，汽车智能安全评价体系重点聚焦智能汽车的应用场景安全，创新性地提出了针对自动驾驶汽车的智能安全测评规程。通过50多项考评，形成了对自动驾驶系统全面的安全评估矩阵。专家表示，智能汽车在复杂场景下的安全性表现与单一场景下差异巨大，如光照、降雨、能见度等对智能汽车的安全性表现影

Zoom正准备为用户带来一项令人惊叹的新功能，但我们可能要等到明年才能一睹其真容。这家视频会议巨头在其年度开发者大会上宣布，他们将推出一项能够将用户视频转化为AI驱动的逼真数字化身的功能。这个数字化身不仅包括头部，还有上臂和肩膀，堪称"数字分身"。用户只需输入想要数字化身说的内容，Zoom就能生成与头像唇形同步的音频。听起来很神奇，对吧?Zoom的首席产品官Smita Hashim表示，这项功能旨在帮助人们以"更快、更高效"的方式与同事进行"异步"交流。她强调，这种头像可以

阿布扎比的人工智能与云计算公司 G42最近宣布收购本地网络安全领军企业 CPX。这一战略收购将为 G42的产品组合注入强大的网络安全能力，使其在人工智能价值链中更具竞争力。图源备注:图片由AI生成，图片授权服务商MidjourneyCPX 总部位于阿布扎比，拥有400多名专业人员，致力于为企业、政府及关键基础设施提供网络安全服务。CPX 的丰富经验和专业人才将帮助 G42应对日益复杂的网络安全挑战，为客户以及自身的 AI 平台提供全面保护，确保其数字资产安全。在过去一年中，G42还积极与多家

最近，加州州长加文・纽森否决了一项备受争议的AI安全法案，引发了科技界和政界的热议，也为AI监管的未来走向投下了一记重磅炸弹。这项由民主党州参议员斯科特・维纳提出的法案，原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试，并要求开发者提供"关闭开关"。此外，该法案还计划建立一个州级机构，专门监督"前沿模型"的开发。图源备注：图片由AI生成，图片授权服务商Midjourney然而，纽森认为这项法案过

最近，马来西亚海局在全国主要入境口岸安装了40台最新款的行李扫描仪，总投资高达4072万令吉。海关局局长阿尼斯・里扎娜在9月27日的发布会上表示，这些配备人工智能（AI）技术的扫描仪大大增强了对旅客行李和物品的检测能力，有效打击了走私的行为，包括毒品等被禁物品的走私。图源备注：图片由AI生成，图片授权服务商Midjourney她提到，这40台扫描仪在5月和6月间完成安装，能够快速准确地识别行李内的物品，帮助海关局减少漏洞，增加收入。阿尼斯还表示，这些新设备将提升海关