美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。图源备注:图片由AI生成，图片授权服务商Midjourney凯利自去年上任以来，负责监督该研究所的初步工作，旨在评估和应对日益强大的人工智能系统所带来的风险。她与多家初创企业达成了合作协议，包括 OpenAI 和 Anthropic，允许该研究所在这些公司发布 AI 模型之前进行测试。

美国商务部国家标准与技术研究所的美国人工智能安全研究所宣布与人工智能领域领军企业Anthropic和OpenAI签署谅解备忘录，旨在合作进行人工智能安全研究、测试与评估。该研究所将在新模型发布前获得使用权，参与评估模型的能力和安全风险，并研究减轻风险的方法。这一协议标志着美国在管理人工智能未来方面迈出的重要一步，强调了安全对于推动技术创新的至关重要性。通过与英国合作伙伴的紧密合作，提供模型安全改进反馈，NIST将利用其在测量科学、技术、标准及相关工具领域的百年成就，进一步推动人工智能系统的安全性和可靠性。这些合作与评估工作将有助于落实拜登-哈里斯政府关于人工智能的行政命令，加强主要人工智能开发者对政府自愿承诺的执行，促进人工智能的安全、可靠和值得信赖的开发和使用。