根据 Gartner 最近的分析,到2027年,超过40% 的人工智能相关数据泄露将源于生成式人工智能(GenAI)的误用。随着 GenAI 技术的迅速普及,企业和组织在数据治理与安全措施的制定上面临着严峻挑战。尤其是在数据本地化的背景下,这一问题显得尤为突出,因为这些技术对集中计算能力的需求很高。Gartner 的副总裁分析师 Joerg Fritsch 指出,组织在集成 GenAI 工具时,常常缺乏足够的监督,导致意外的跨境数据转移。他提到,“如果员工在使用 GenAI 工具时发送了敏感提示,而这些工具和 API 又托
近日,来自哥伦比亚大学和马里兰大学的研究团队发布了一项新研究,揭示了拥有互联网访问能力的 AI Agent在安全性方面存在严重漏洞。这项研究显示,攻击者可以利用简单的操控手段,轻易地诱骗这些 AI 系统泄露用户的私人信息、下载恶意文件,甚至向用户的联系人发送诈骗邮件。这些攻击不需要任何专业的 AI 或编程知识,令人震惊。图源备注:图片由AI生成,图片授权服务商Midjourney研究团队对多个知名的 AI Agent进行了测试,包括 Anthropic 公司的计算机助手、MultiOn Web Agent和 ChemCrow 研究
AI 初创公司Anthropic正准备推出其最新的 AI 模型,预计将在未来几周内正式发布。根据theinformation报道,这款新模型被称为 “混合型” 模型,具备在 “深度推理” 与快速响应之间切换的能力。这一创新设计旨在为开发者提供更加灵活的工具,以满足不同应用场景的需求。与之前的版本相比,Anthropic的新模型在处理复杂任务时表现出色。它的深度推理能力将使其能够更好地理解和分析复杂的数据,从而提升工作效率。同时,该模型将配备一个 “滑动比例” 功能,允许开发者根据需求调节计
英国政府近期宣布,将原本名为 “AI 安全研究所” 的机构更名为 “AI 安全研究院”,此举标志着政府在 AI 领域战略的重大转变。新的名称不仅反映了机构的职能变化,也表明了英国政府在推动 AI 产业发展方面的坚定决心。图源备注:图片由AI生成,图片授权服务商Midjourney这一变化由科学、工业与技术部公布,新的 AI 安全研究院将重点关注网络安全,旨在 “加强对 AI 对国家安全及犯罪风险的保护”。原本侧重于探讨大语言模型的生存风险和偏见问题,如今将更多的精力转向如何利用 AI 技