英国政府增加投资,推动先进人工智能模型的安全研究

AI 安全公司 Adversa AI 发布了一项令人震惊的报告,称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。Adversa 的研究团队发现,这款最新的 AI 模型容易受到 “简单的越狱攻击”,这可能使不法分子能够获取诸如 “如何诱骗儿童、处理尸体、提取 DMT 以及制造炸弹” 等敏感信息。更糟糕的是,Adversa 的首席执行官兼联合创始人亚历克斯・波利亚科夫表示,这次漏洞不仅仅是越狱攻击那么简单,他们还发现了一种新的 “提示泄露” 缺陷,暴露了 Grok 模型的完整系
英国政府近期宣布,将原本名为 “AI 安全研究所” 的机构更名为 “AI 安全研究院”,此举标志着政府在 AI 领域战略的重大转变。新的名称不仅反映了机构的职能变化,也表明了英国政府在推动 AI 产业发展方面的坚定决心。图源备注:图片由AI生成,图片授权服务商Midjourney这一变化由科学、工业与技术部公布,新的 AI 安全研究院将重点关注网络安全,旨在 “加强对 AI 对国家安全及犯罪风险的保护”。原本侧重于探讨大语言模型的生存风险和偏见问题,如今将更多的精力转向如何利用 AI 技
日本科技集团软银近期发布财报,显示其在过去一段时间内遭遇了24亿美元的巨大亏损。这一亏损主要源于其愿景基金投资组合的表现不佳。软银表示,尽管面临困难,但他们仍计划在人工智能(AI)领域进行大规模投资,显示出对未来科技趋势的信心。在最新的财报中,软银的愿景基金显示出显著的价值减损,许多投资项目的回报未达到预期。这一情况让软银面临了巨大的财务压力,同时也引发了市场对其未来发展的担忧。软银创始人孙正义强调,尽管当前面临挑战,但公司依旧致力于通
在全球AI竞争日益激烈的背景下,欧盟正式宣布了一项力度空前的人工智能投资计划。今天在巴黎AI行动峰会上,欧盟委员会主席冯德莱恩正式发布了名为"Invest AI"的宏伟计划,展现出欧盟在全球AI竞争中的坚定决心。这项总规模达2000亿欧元的投资计划中,最引人注目的是专门设立了200亿欧元的欧洲基金,用于建设AI巨型工厂。这一决策标志着欧盟正式进入大规模AI生产与研发阶段。图源备注:图片由AI生成,图片授权服务商Midjourney为了确保在全球AI竞争中不落下风,欧盟的InvestAI计划将在多