OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了新的行业标准。第一篇论文《OpenAI 的 AI 模型与系统外部红队测试方法》指出，外部专业团队在发现内部测试可能遗漏的安全漏洞方面极为有效。这些外部团队由网络安全和特定领域的专家组成，能够识别模型安全边界的缺陷，以及模型中的偏差和控制问题。第二篇论文《多样化和有效的