OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了新的行业标准。第一篇论文《OpenAI 的 AI 模型与系统外部红队测试方法》指出，外部专业团队在发现内部测试可能遗漏的安全漏洞方面极为有效。这些外部团队由网络安全和特定领域的专家组成，能够识别模型安全边界的缺陷，以及模型中的偏差和控制问题。第二篇论文《多样化和有效的

OpenAI最近发布了GPT-4o系统卡，详细介绍了在推出新模型前的安全措施和风险评估。GPT-4o在五月份正式上线，评估显示整体风险为“中等”，主要风险集中在网络安全、生物威胁、说服力和模型自主性上。研究人员发现，虽然GPT-4o在影响读者意见方面可能更具说服力，但整体上并未超过人类。在发布系统卡的同时，OpenAI面临来自内部员工和州参议员的批评，质疑其安全标准。一封公开信呼吁提供关于如何处理举报者和安全审查的解答。GPT-4o的发布正值美国总统选举前，存在误传信息或被恶意利用的潜在风险。OpenAI希望通过实际场景的测试来防止滥用，但其透明度受到了公众的关注，尤其是加州参议员斯科特·维纳正在推动的一项法案，旨在规范大型语言模型的使用，并要求公司在其AI被用作有害用途时承担法律责任。