zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-10-16 09:42:20
.
AIbase
.
12.4k
Anthropic更新安全政策,设置 “安全门槛”以避免AI失控
在人工智能技术飞速发展的当下,Anthropic 公司近日宣布更新其 “责任扩展政策(RSP)”,这一政策旨在有效管理高能力 AI 系统所带来的潜在风险。作为开发热门聊天机器人 Claude 的公司,Anthropic 此举显然是想在不断增强的 AI 能力与必要的安全标准之间找到平衡。这项新政策引入了所谓的能力阈值,作为 AI 模型能力提升时,额外安全保障的明确标志。这些阈值涵盖了诸如生物武器制造和自主 AI 研究等高风险领域,显示出 Anthropic 致力于防止其技术被恶意利用的决心。值得一提的是,政策