Meta 近日发布了一项新的风险政策框架，旨在评估和降低前沿 AI 模型所带来的风险，并在必要时停止开发或限制这些系统的发布。该框架名为 “前沿 AI 框架”，详细阐述了 Meta 将如何将 AI 模型分为高风险和关键风险两类，并据此采取相应措施，以将风险降低到 “可容忍的水平”。在这个框架中，关键风险被定义为能够独特地促成特定威胁场景的执行。而高风险则意味着模型可能显著提升实现威胁场景的可能性，但并不直接促成执行。威胁场景包括生物武器的扩散，其能力可与已知的生物