在最新的2025年 JP 摩根医疗会议上，英伟达与 Innophore 宣布了一项激动人心的合作，计划于2025年1月底推出名为 CavitOmiX 的人工智能（AI）驱动药物安全筛选平台。该平台旨在通过对蛋白质结合位点的分析，提升药物设计的效率和准确性，标志着药物研发领域的一次革命性变革。Innophore 的首席执行官 Christian Gruber 在接受《制药科技》独家采访时表示，CavitOmiX 将利用英伟达强大的计算能力，提升药物设计过程中的预测速度和准确性。该平台的开发基于多项先进技术，包括英伟达的 BioNeMo、DeepMi

最近，一位德国安全研究员本杰明・弗莱施在微软的 GitHub 上发布了一份报告，指出 OpenAI 的 ChatGPT API 存在一个严重的安全漏洞，可能被利用发起分布式拒绝服务（DDoS）攻击。该漏洞使得攻击者可以通过简单的 HTTP 请求，利用 ChatGPT 的爬虫程序，向任意网站发起大规模的网络请求，甚至可能导致目标网站瘫痪。图源备注：图片由AI生成，图片授权服务商Midjourney根据弗莱施的报告，ChatGPT 的 API 在处理指向特定网站的 HTTP POST 请求时，表现出严重的缺陷。当 ChatGPT 引用某个网站时，它会调用一

近日，微软公司通过其数字犯罪部门（Digital Crimes Unit）采取法律行动，旨在打击那些利用生成式人工智能(AI)工具进行网络犯罪的行为。根据在维吉尼亚州东区提交的一份未公开的投诉，微软表示，尽管公司在不断努力提升其 AI 产品和服务的安全性，网络犯罪分子依然在不断创新，试图绕过安全防护措施以制造有害内容。微软指出，一些网络犯罪团伙正利用生成式 AI 技术，针对易受攻击的客户账户，开发出各种恶意工具。这些工具能够逃避现有的安全守护措施，从而对个人和组织构成威胁

近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列实用的解决方案。其中，内容安全服务（Content Safety）可以在 AI 响应用户之前，对其内容进行审核，检测是否存在潜在的有害信息。这项服务有助于防止不当内容传播，确保用户得到安全和合适的信息。另外，主题控制服务（Topic Control）旨在确保聊天内容保持在预先设定的主题范围内。这意味着，聊天机器人能够

Nvidia近日发布三项新的NIM（Nvidia Infrastructure Microservices）微服务，作为NeMo Guardrails开源工具包的扩展，旨在为企业AI代理应用提供更精细的安全管控能力。这三项新服务各具特色:一是针对内容安全，防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏，开发者可以弥补全局政策可能存在的保护漏洞。此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内

在近日的一次重要会议中，微软公司首席执行官萨提亚・纳德拉（Satya Nadella）与美国总统当选人唐纳德・特朗普(Donald Trump)及亿万富翁埃隆・马斯克(Elon Musk)进行了深入的讨论。会议的主要议题围绕人工智能(AI)和网络安全展开，标志着科技行业与新政府之间关系的进一步接触。图源备注：图片由AI生成，图片授权服务商Midjourney根据微软的声明，会议中提到公司计划在全球范围内投资800亿美元用于人工智能数据中心的建设，其中超过500亿美元将用于美国本土，预计将为美国创造大量就业机会

自2021年以来，微软的 AI 安全团队对100多种生成式 AI 产品进行了测试，以寻找薄弱环节和道德问题。他们的发现挑战了一些关于 AI 安全的常见假设，并强调了人类专业知识的持续重要性。事实证明，最有效的攻击并不总是最复杂的攻击。微软报告中引用的一项研究指出:“真正的黑客不会计算梯度，而是使用快速工程。”该研究将人工智能安全研究与现实世界的实践进行了比较。在一次测试中，该团队仅通过将有害指令隐藏在图像文本中就成功绕过了图像生成器的安全功能——无需复杂的

最近，微软公司在美国弗吉尼亚东区地方法院对一群黑客提起诉讼，指控他们非法入侵 Azure OpenAI 平台，利用该服务生成大量有害内容。这起事件让人们更加关注人工智能领域的安全性和风险。根据微软的诉讼，这些黑客来自国外，他们通过在公共网站上抓取客户凭证，成功绕过了安全防护，进入了 Azure OpenAI 的系统。黑客在获取到客户的访问权限后，不仅篡改了平台的功能，还将其重新销售给其他恶意用户，提供了详细的指导，教他们如何利用这些 AI 工具生成非法内容。虽然微软并未透

近日，知名安全公司 Check Point 发布了一份报告，揭示了一种名为 FunkSec 的新型勒索木马。自去年年底以来，这款恶意软件已成功攻击了至少85家企业组织。根据研究人员的调查，这款勒索木马是用 Rust 编程语言开发的，且有强烈的迹象表明它可能是由大型人工智能模型自动生成的。研究中指出，FunkSec 的代码中包含了一系列流畅的英文注释，显示出其生成过程的高度智能化。然而，尽管其表面看起来专业，但其实攻击模式却显得相对原始和落后，这进一步支持了该木马可能是通过 AI 模型生

Cohere 公司今日宣布推出其最新的 AI 平台 “North”，旨在为企业用户提供一个安全的工作空间，直接挑战微软的 C o p i l ot 和谷歌的 Vertex AI。Cohere 声称，这一新平台在金融、人力资源、客户支持和 IT 等多个领域的性能上优于这两大科技巨头。“North” 结合了大型语言模型、搜索能力和自动化工具，以一个安全的包装形式，让企业在保持对敏感数据控制的同时，能够高效地部署 AI 技术。该平台支持私有云环境或本地安装，特别针对金融和医疗等受监管行业进行设计。Cohere 的内部测试显示，

OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了新的行业标准。第一篇论文《OpenAI 的 AI 模型与系统外部红队测试方法》指出，外部专业团队在发现内部测试可能遗漏的安全漏洞方面极为有效。这些外部团队由网络安全和特定领域的专家组成，能够识别模型安全边界的缺陷，以及模型中的偏差和控制问题。第二篇论文《多样化和有效的

在当今网络诈骗不断增多的背景下，知名安全软件公司McAfee在2025年国际消费电子展（CES2025）上推出了一款全新的人工智能诈骗检测工具。这一工具旨在帮助用户在受到诈骗之前，识别出各种邮件、短信和视频诈骗信息，提升个人信息的安全性。McAfee首席技术官史蒂夫・格罗布曼（Steve Grobman）在发布会上表示:“诈骗者每天都在变得更加聪明，他们利用人工智能等技术，使得他们的骗局更加可信和难以识别。这些诈骗通常利用人们的恐惧、紧迫感和信任感来获取利益。因此，我们开发了McAf

OpenAI 公布了一种新的 AI 安全方法，旨在通过改变 AI 系统处理安全规则的方式来提升其安全性。这种新的 o 系列模型不再仅仅依赖于通过示例学习好与坏行为，而是能够理解并积极推理特定的安全指南。OpenAI 的研究中举了一个例子，当用户试图通过加密文本获取非法活动的指示时，模型成功解码了信息，但拒绝了请求，并具体引用了将要违反的安全规则。这种逐步推理的过程显示了模型如何有效地遵循相关的安全准则。这款 o1模型的训练过程分为三个阶段。首先，模型学习如何提供帮助。

随着科技的不断进步，人工智能（AI）技术已成为提升老年人生活质量的关键。据调查显示，92%的老年人希望在自己的家中度过晚年，AI技术的介入，不仅保障了他们的安全，也维护了他们的独立性。面对老年人独自在家时可能发生的紧急情况，如跌倒、中风或心脏病发作，AI提供了有效的解决方案。在跌倒检测方面，AI算法通过大量数据训练，提高了区分日常活动与真正跌倒的准确性，减少了误报，降低了老年人及其护理者的压力。此外，基于雷达的非穿戴式跌倒检测技术，通过分析房间

Mindgard 宣布完成800万美元的融资，旨在加速其研发进程，并推动其在美国市场的扩展。此次融资由.406Ventures 领投，参与投资的还有 Atlantic Bridge、Willowtree Investments 及现有投资者 IQ Capital 和 Lakestar。同时，Mindgard 还任命了两位行业领军人物，分别担任产品负责人和市场副总裁，以强化公司的产品开发和市场推广。随着 AI 技术的迅速普及，新的安全风险层出不穷，传统的安全工具难以应对这种复杂的安全环境。Gartner 的研究显示，29% 的企业在部署 AI 系统时报告遭遇安全 breaches，而仅有10% 的内

近期，英国《卫报》的一项调查揭露了OpenAI的ChatGPT搜索工具可能存在的安全隐患。调查发现，ChatGPT在处理包含隐藏内容的网页摘要时，可能会受到操控，甚至返回恶意代码。这些隐藏内容可能包括第三方指令，旨在干扰ChatGPT的回应，或是大量隐藏的文字，推销某个产品或服务。图源备注：图片由AI生成，图片授权服务商Midjourney测试中，ChatGPT被提供了一个伪造的相机产品页面链接，并被要求判断该相机是否值得购买。在普通页面上，ChatGPT能够平衡地指出产品的优缺点。然而，当页面中隐

量子计算的崛起既是技术变革的巨大推动力，也对现有的网络安全框架构成潜在的颠覆。专家警告，我们正处于为量子计算做关键准备的时期，必须确保我们的数字基础设施能够抵御量子计算机的攻击，因为量子计算机预计将能破解目前的一些加密技术。2024年8月，美国国家标准与技术研究院（NIST）发布了三项后量子密码学标准，标志着这一准备工作取得了重大进展。这些标准是在全球顶尖密码学家经过八年合作的基础上建立的，旨在保护系统免受未来量子威胁的侵害。尽管如此，专家也

美国国土安全部部长亚历杭德罗・马约卡斯（Alejandro Mayorkas）针对欧盟在人工智能(AI)领域的监管努力发表了严厉的批评。他表示，欧美在如何监管人工智能公司方面存在显著差异，这可能会加剧两者之间的紧张关系。图源备注:图片由AI生成，图片授权服务商Midjourney马约卡斯指出，欧盟的监管框架可能过于严苛，抑制了技术创新的步伐。他对欧盟希望对主要 AI 公司实施更严格的监管表示担忧，认为这可能会影响到全球科技行业的发展。在马约卡斯的讲话中，他强调了美国在人工智能领域的

新南威尔士大学悉尼分校（UNSW Sydney）日前宣布，与美国人工智能公司 OpenAI 达成合作协议，成为亚太地区首所引入 ChatGPT Edu 的高校。这一合作将使得 UNSW 的研究人员、教育工作者和学生能够在一个安全的平台上使用 OpenAI 的人工智能工具，确保学术知识产权得到保护，同时也能保留使用过程中生成的提问内容的私密性。图源备注:图片由AI生成，图片授权服务商Midjourney此项合作让 UNSW 与牛津大学、哥伦比亚大学、亚利桑那州立大学、伦敦商学院及宾夕法尼亚大学沃顿商学院等国际知名高校

微信珊瑚安全近日发布公告，强调了平台对于打击利用AI技术仿冒知名人士进行不当营销行为的决心。公告中提到，微信致力于打造一个安全、健康、绿色的网络环境，针对近期出现的利用AI技术仿冒名人进行营销的现象，微信已经迅速采取行动，严肃处理了一批违规行为。