近日，一组美国参议员向OpenAI首席执行官萨姆·奥特曼（Sam Altman）发出了一封重要的信函，要求他在2024年8月13日前，详细披露公司在安全措施和工作条件方面的信息。这一要求的背景是，媒体报道揭示了一些OpenAI的潜在安全风险，包括多名AI安全研究人员的离职、安全漏洞和员工的担忧。
图源备注：图片由AI生成，图片授权服务商Midjourney
这封信的发起与前员工的揭发有关，他们对OpenAI在AI开发中的安全措施提出了严厉批评。据报道，OpenAI的新AI模型GPT-4o在仅仅一周内便完成了安全测试，这种加速测试的做法引发了安全专家的担忧。这个新模型被曝可以通过简单的提示方式生成恶意内容，例如制作炸弹的说明书。
参议员们在信中强调，公众需要信任OpenAI在开发其系统时能够保持安全。这包括公司治理的完整性、安全测试的规范性、雇佣实践的公平性、对公众承诺的遵守以及网络安全政策的执行。他们指出，OpenAI之前向拜登政府做出的安全承诺，必须得到切实的兑现。
为回应参议员的要求，OpenAI已通过社交媒体平台发布了一些声明，提到了最近成立的安全与保障委员会、五级AGI的最新进展、准备框架以及对备受批评的员工合同的修订。OpenAI希望通过这些措施，能够证明其在安全和治理方面的改进。
**划重点:**
📧 **参议员要求OpenAI提供详细信息**:美国参议员要求OpenAI首席执行官在2024年8月13日前，披露公司在安全和工作条件方面的详细信息。
🔍 **前员工揭发安全隐患**:前员工揭露了OpenAI在AI开发中的潜在安全风险，包括急于推出新模型导致的安全漏洞。
🛡️ **OpenAI回应改进措施**:OpenAI回应称已采取措施，包括成立新委员会和修订员工合同，以应对外界的安全与治理关注。