马里兰州盖瑟斯堡——今天，美国商务部国家标准与技术研究所 （NIST） 旗下的美国人工智能安全研究所宣布，与人工智能领域的领军企业Anthropic和OpenAI签署了谅解备忘录，正式开启人工智能安全研究、测试与评估的合作。
根据协议，美国人工智能安全研究所将在这些公司的主要新模型发布前后获得使用权限，允许其深入参与评估这些模型的能力和安全风险，并研究减轻风险的方法。该协议为双方合作建立了框架，标志着美国在负责任地管理人工智能未来方面迈出了重要一步。
图源备注：图片由AI生成，图片授权服务商Midjourney
“安全对于推动突破性技术创新至关重要。有了这些协议，我们期待与Anthropic和OpenAI的技术合作，推动人工智能安全科学的发展，”美国人工智能安全研究所所长伊丽莎白·凯利 （Elizabeth Kelly） 表示。这些协议不仅是合作的开端，更是实现人工智能负责任开发和使用的重要里程碑。
此外，美国人工智能安全研究所计划与英国的合作伙伴紧密合作，向Anthropic和OpenAI提供模型安全改进的反馈。NIST 将基于其在测量科学、技术、标准及相关工具领域的百年成就，通过这次合作进一步推动人工智能系统的安全性和可靠性。
这些合作与评估工作将帮助落实拜登-哈里斯政府关于人工智能的行政命令，并加强主要人工智能开发者对政府自愿承诺的执行，促进人工智能的安全、可靠和值得信赖的开发和使用。