最近,AI界多位大佬在线上展开激烈讨论,围绕人工智能可能存在的风险、是否需要监管等问题针锋相对。以吴恩达和Hinton为代表的两派人分别表达了不同观点。吴恩达等人主张开放创新,认为过度监管会扼杀创新;Hinton等人则提出AI潜在风险,需要谨慎对待。此事引发广泛关注,凸显AI监管问题的复杂性,需要在技术进步和社会风险之间找到平衡。
相关AI新闻推荐

Virtue AI 获 3000 万美元融资,助力企业安全部署生成式 AI
位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Ventures 领投,同时吸引了包括 Prosperity7在内的多位投资者。Virtue AI 致力于消除企业在 AI 创新与安全之间的传统权衡,帮助企业安全高效地部署生成式 AI 技术。Virtue AI 的创始团队由多位在 AI 安全和安全领域享有盛誉的专家组成,包括 Bo Li、Dawn Song、Carlos Guestrin 和 Sanmi Koyejo。他们在 AI 安全领域积累了超过80年的研究经验,深知企业在快速创新和安全合规之间面临的挑战

丰田携手 Gorilla 打造智能仓储解决方案
丰田汽车在泰国的物料搬运仓储解决方案部门宣布与 AI 安全与网络智能提供商 Gorilla 达成合作,共同开发智能仓库自动化工具。此次合作将 Gorilla 的人工智能解决方案与丰田在物流和物料搬运方面的专业知识相结合,旨在创造新的智能工厂创新。这些工具将帮助解决日常运营中遇到的实际问题,如 “错误的零件请求、仓库效率低下和高昂的工作延误成本”,从而将智能技术引入仓库环境。这一系统最初将在泰国推出,待其有效性得到验证后,计划在全球范围内推广。丰田表示,此举支持

谷歌推全新AI安全模型Sec-Gemini v1,秒级洞悉网络攻击根源
谷歌在其官方安全博客上宣布推出一项令人瞩目的创新——Sec-Gemini v1,这是一款全新的实验性人工智能模型,专注于推动网络安全AI领域的发展。此举标志着谷歌在利用AI技术应对日益严峻的网络威胁方面迈出了重要一步。应对攻防不对称:AI助力防御者扭转局面谷歌指出,当前网络安全领域面临着一个根本性的挑战,即攻防之间的不对称。防御者需要应对所有潜在的网络威胁,而攻击者只需成功找到并利用一个漏洞即可。这种不对称性使得保护系统变得异常困难、耗时且容易出错。谷歌认

ReliaQuest完成5亿美元融资,推动智能AI安全技术发展
在网络安全日益成为全球关注焦点的背景下,位于佛罗里达州坦帕的安全运营公司 ReliaQuest 宣布完成了一轮超过5亿美元的融资,公司的估值已达34亿美元。这轮融资由 EQT、KKR 和 FTV Capital 领投,标志着 ReliaQuest 在网络安全领域的迅速崛起。相较于2021年12月获得的10亿美元估值,ReliaQuest 的市值在短短几年内增长了三倍。ReliaQuest 的创始人兼首席执行官布莱恩・墨菲(Brian Murphy)表示,随着企业安全团队面临越来越多的数据和迅速增长的威胁,网络安全的需求不断增加。他强调,CISO(首席信息

AI 时代软件供应链面临重大安全危机:机密泄露激增64%
近日,JFrog 公司发布了《2025年软件供应链现状报告》,揭示了在人工智能(AI)迅速发展的背景下,软件供应链所面临的严峻安全挑战。根据该报告,研究团队通过对1400多名专业人士的调研,以及来自7000多家客户的数据分析,勾勒出了一幅令人为之担忧的安全图景。报告指出,过去一年中,软件供应链的安全漏洞急剧增加,其中 “秘密” 或机密信息的曝光案例同比增长了64%,总计达到了惊人的25,229例。这一数据表明,随着企业对机器学习(ML)模型的依赖加深,安全风险也在不断上升

Anthropic强化AI模型安全措施,确保技术负责任扩展
最近,人工智能公司 Anthropic 发布了其 “负责任扩展” 政策的最新更新,明确了哪些模型需要额外的安全保护。这一举措旨在确保在推出新技术前,能够有效防范可能的风险。据 Anthropic 在其博客中所述,如果在对某个 AI 模型进行压力测试时发现,该模型有可能帮助一个 “资源适中的国家程序” 开发化学和生物武器,Anthropic 将会在正式推出该技术之前,首先采取新的安全保护措施。此外,若模型有能力全自动化初级研究员的工作,或在技术快速扩展中带来过大的加速效应,公司也会相应

ChatGPT4o 新功能引发安全担忧:AI生成的假收据能骗过谁?
ChatGPT最新推出的4o模型图像生成功能正在引发安全忧虑,尤其是在生成逼真文本方面的进步可能为欺诈者提供新工具。社交媒体上已经出现多个用户利用该功能创建假餐厅收据的案例,这些收据看起来足以假乱真。风险投资家Deedy Das在X平台上展示了一张使用4o生成的旧金山牛排馆假收据,强调:"现实世界中有太多验证流程依赖真实图像作为证据。那个时代已经结束了。"其他用户也成功复制了类似结果,有些甚至添加了食物污渍以增加真实感。测试后发现,虽然AI生成的收据仍存在明显缺陷

投资人警告阿尔特曼:OpenAI 内部安全危机加剧
近日,有关 OpenAI 内部紧张局势的报道浮出水面,投资人彼得・蒂尔在2023年11月阿尔特曼被解雇前夕,曾对阿尔特曼提出警告,关注 AI 安全倡导者与公司商业方向之间的冲突。据《华尔街日报》的报道,蒂尔在洛杉矶的一次私人晚宴上,向阿尔特曼提出了这一问题。他特别提到了 “有效利他主义”(Effective Altruism)运动在 OpenAI 内部的影响,称阿尔特曼未能意识到 AI 研究者尤利泽尔・尤德科夫斯基的影响力。“你并不知道尤利泽尔如何让你公司一半的人相信这些理论,” 蒂尔告诉阿尔特

优刻得与 360 集团携手共推 AI 安全生态系统
近日,云计算和人工智能领域的先锋企业优刻得宣布与互联网安全巨头360集团达成战略合作。此次合作聚焦于优刻得的 DeepSeek 一体机与360的 AI 安全产品,旨在共同推动国产大模型的安全应用与创新。优刻得表示,这一合作将围绕 DeepSeek 一体机进行,双方将致力于构建一个涵盖人工智能应用全生命周期的安全防护体系。随着人工智能技术的快速发展,安全性已成为企业面临的重大挑战,优刻得与360的合作意在通过深度技术整合,保障 AI 应用的安全性。图源备注:图片由AI生成,图片授权服

SplxAI 获 700 万美元融资,助力组织安全部署 Agentic AI
在人工智能(AI)技术迅猛发展的背景下,SplxAI 公司宣布成功获得700万美元的种子融资,由 LAUNCHub Ventures 领投,Rain Capital、Inovo、Runtime Ventures、DNV Ventures 及 South Central Ventures 也参与了投资。此次融资将用于加速 SplxAI 平台的开发与推广,帮助企业确保内部 AI 代理和面向客户的 AI 应用程序的安全性。图源备注:图片由AI生成,图片授权服务商MidjourneySplxAI 是一家专注于 Agentic AI 的攻防安全公司,旨在为安全领导者和 AI 开发者提供有效的安全测试工具。公司的首席执行官兼联合创始人克里斯