价值190亿美元的AI初创公司Anthropic的CEO Dario Amodei在周三旧金山AI大会上，就人工智能发展风险问题发表了引人深思的见解。虽然他认为目前的AI模型并不会给人类带来即刻威胁，但他对一些同行过于轻视AI风险的论调提出了尖锐批评。
针对著名风险投资人Marc Andreessen的观点，Amodei展开了独到的分析。Andreessen曾在今年三月发推文称"限制AI就等同于限制数学、软件和芯片"，并将AI简单归结为"数学"。对此，Amodei指出这种逻辑存在根本性缺陷。"如果用这种逻辑，人类大脑不也是数学吗?神经元的放电和计算同样是数学。按照这种说法，我们甚至不应该害怕希特勒，因为那也只是数学。整个宇宙都可以被简化为数学。"
图源备注：图片由AI生成，图片授权服务商Midjourney
作为OpenAI前副总裁，Amodei于2021年离职创立了Anthropic。他属于那些公开警示AI潜在风险的科技高管群体，支持对AI行业进行适度监管。事实上，Anthropic还曾支持过一项加州AI监管法案，尽管该法案最终被否决。
与之形成鲜明对比的是投资了包括OpenAI和Xai在内多家AI公司的Andreessen。他坚持主张AI技术应该不受约束地发展，甚至将AI安全警示派称为"邪教"，并认为对AI的监管将导致"新的极权主义"。
尽管Amodei承认当前的AI模型"不够智能，也不够自主"，不会对人类构成严重威胁，但他强调AI技术正在快速进化。特别是随着能够自主执行人类命令的AI"代理"的出现，公众将更深入地认识到AI的能力及其潜在危害。
"现在人们可能会对聊天机器人的一些不可预测行为一笑了之，"Amodei说，"但对于未来的AI代理，我们必须建立更好的控制机制。"
这场争论不仅反映了AI界对安全问题的分歧，也凸显出在AI快速发展的当下，如何在创新与监管之间找到平衡点的重要性。在技术突飞猛进的同时，理性评估和防范潜在风险，将是确保AI健康发展的关键。
