最近,加州州长加文・纽森否决了一项备受争议的AI安全法案,引发了科技界和政界的热议,也为AI监管的未来走向投下了一记重磅炸弹。

这项由民主党州参议员斯科特・维纳提出的法案,原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试,并要求开发者提供"关闭开关"。此外,该法案还计划建立一个州级机构,专门监督"前沿模型"的开发。

机器人 人工智能  AI  (1)

图源备注:图片由AI生成,图片授权服务商Midjourney

然而,纽森认为这项法案过于宽泛,没有充分考虑AI系统在高风险环境下的部署情况和敏感数据的使用。他指出,法案对所有大型系统都施加了严格标准,甚至包括一些最基础的功能,这可能会扼杀创新。

纽森的决定得到了科技行业的普遍支持。谷歌、微软、OpenAI和Meta等科技巨头此前都对该法案表示了担忧,认为它可能会将AI公司赶出加州,抑制创新。"进步商会"等行业联盟也对否决表示赞赏,强调加州的科技经济一直在竞争和开放中蓬勃发展。

然而,法案的支持者,包括特斯拉CEO埃隆・马斯克在内,对这一决定表示失望。维纳参议员认为,这个决定让加州变得更不安全,也意味着那些正在创造极其强大技术的公司将不受任何约束。他强调,行业的自愿承诺是无法强制执行的,往往对公众没有好处。

尽管否决了这项法案,纽森并非完全反对AI监管。他表示已经咨询了生成性AI的顶尖专家,以帮助加州制定更切实可行的规范,并强调将继续与立法机关合作推动AI立法。他还签署了一项单独的法案,要求州政府评估生成性AI对加州关键基础设施可能造成的威胁。

这一事件发生在美国国会关于AI监管立法陷入停滞,而拜登政府正在推动相关监管提案的背景下。纽森警告说,如果国会不采取行动,加州独立行动的必要性可能会加大。

AI技术的快速发展带来了前所未有的机遇和挑战。一方面,生成性AI能够根据开放性提示生成文本、照片和视频,展现出巨大的创新潜力;另一方面,它也引发了诸如就业流失、选举干扰,甚至可能导致灾难性后果的担忧。

纽森的决定反映了在AI监管问题上寻求平衡的艰难。如何在保护公众安全和促进技术创新之间找到恰当的平衡点,将是政策制定者面临的一大挑战。

未来,我们可能会看到更多针对specific scenarios和高风险应用的targeted regulations。同时,政府、科技公司和公众之间的对话和合作将变得越来越重要。只有通过多方共同努力,我们才能够在享受AI带来的便利的同时,有效管控其潜在风险。