OpenAI最近发布了GPT-4o系统卡，详细介绍了在推出新模型前的安全措施和风险评估。GPT-4o在五月份正式上线，评估显示整体风险为“中等”，主要风险集中在网络安全、生物威胁、说服力和模型自主性上。研究人员发现，虽然GPT-4o在影响读者意见方面可能更具说服力，但整体上并未超过人类。在发布系统卡的同时，OpenAI面临来自内部员工和州参议员的批评，质疑其安全标准。一封公开信呼吁提供关于如何处理举报者和安全审查的解答。GPT-4o的发布正值美国总统选举前，存在误传信息或被恶意利用的潜在风险。OpenAI希望通过实际场景的测试来防止滥用，但其透明度受到了公众的关注，尤其是加州参议员斯科特·维纳正在推动的一项法案，旨在规范大型语言模型的使用，并要求公司在其AI被用作有害用途时承担法律责任。

["AI研究者普遍认为，超级人工智能的发展存在微不足道但非常小的导致人类灭绝的风险。","最大规模的AI研究者调查显示，约58%的研究者认为有5%的概率导致人类灭绝或其他极端糟糕的AI相关结果。","研究者对未来AI技术里程碑的时间表存在广泛分歧，同时对AI可能带来的社会后果感到不确定。","调查还揭示了AI研究者对深度伪造、操纵公众舆论、制造武器等由AI驱动的情境的紧迫担忧。","虽然AI专家对于未来AI发展存在分歧，但大多数认为超级人工智能的潜在风险不应被轻视。"]