最近，OpenAI 再传离职消息，安全政策顾问及 AGI 准备团队负责人米尔・布伦达奇（Miles Brundage）宣布将离开公司，并透露他所领导的团队也将解散，成员将被重新分配到其他部门。布伦达奇在社交媒体平台 X 上发布了一篇文章，详细解释了自己的决定。他表示，离开 OpenAI 的原因主要是想要拥有更多的独立性和发表研究的自由。值得注意的是，布伦达奇并不是唯一一位高层离职的安全研究者。早在今年5月，OpenAI 就解散了其超级对齐团队，这个团队主要负责人工超级智能的风险评估。此后，

在人工智能技术飞速发展的当下，Anthropic 公司近日宣布更新其 “责任扩展政策（RSP）”，这一政策旨在有效管理高能力 AI 系统所带来的潜在风险。作为开发热门聊天机器人 Claude 的公司，Anthropic 此举显然是想在不断增强的 AI 能力与必要的安全标准之间找到平衡。这项新政策引入了所谓的能力阈值，作为 AI 模型能力提升时，额外安全保障的明确标志。这些阈值涵盖了诸如生物武器制造和自主 AI 研究等高风险领域，显示出 Anthropic 致力于防止其技术被恶意利用的决心。值得一提的是，政策