zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-10-25 09:20:33
.
AIbase
.
12.7k
OpenAI又走了一名高管!6年安全顾问兼AGI团队负责人将离职
最近,OpenAI 再传离职消息,安全政策顾问及 AGI 准备团队负责人米尔・布伦达奇(Miles Brundage)宣布将离开公司,并透露他所领导的团队也将解散,成员将被重新分配到其他部门。布伦达奇在社交媒体平台 X 上发布了一篇文章,详细解释了自己的决定。他表示,离开 OpenAI 的原因主要是想要拥有更多的独立性和发表研究的自由。值得注意的是,布伦达奇并不是唯一一位高层离职的安全研究者。早在今年5月,OpenAI 就解散了其超级对齐团队,这个团队主要负责人工超级智能的风险评估。此后,
2024-10-16 09:42:20
.
AIbase
.
12.4k
Anthropic更新安全政策,设置 “安全门槛”以避免AI失控
在人工智能技术飞速发展的当下,Anthropic 公司近日宣布更新其 “责任扩展政策(RSP)”,这一政策旨在有效管理高能力 AI 系统所带来的潜在风险。作为开发热门聊天机器人 Claude 的公司,Anthropic 此举显然是想在不断增强的 AI 能力与必要的安全标准之间找到平衡。这项新政策引入了所谓的能力阈值,作为 AI 模型能力提升时,额外安全保障的明确标志。这些阈值涵盖了诸如生物武器制造和自主 AI 研究等高风险领域,显示出 Anthropic 致力于防止其技术被恶意利用的决心。值得一提的是,政策