近日,明尼苏达州一项关于 “使用深度伪造技术影响选举” 的法律正在进行的联邦诉讼中,出现了新的争议。原告律师团在最新的法律文件中指出,支持这一法律的宣誓书可能包含了由人工智能生成的文本。图源备注:图片由AI生成,图片授权服务商Midjourney根据《明尼苏达改革者》的报道,该州的司法部长基思・埃里森(Keith Ellison)曾要求斯坦福社交媒体实验室的创始主任杰夫・汉考克(Jeff Hancock)提供相关证据。然而,汉考克所提交的宣誓书中提到的几项研究并没有实质证据,且显示出可
法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API,旨在与 OpenAI 及其他行业领军者展开竞争,同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型,经过精细调优,能够在九个不同类别中检测潜在的有害内容,包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调,“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为,系统级的安全防
新加坡最近在网络安全方面发布了一系列重要公告,特别是针对人工智能(AI)系统的安全指南,以及禁止在选举广告中使用深度伪造技术的立法。这些举措旨在帮助组织在 AI 的开发和部署过程中降低潜在风险,确保技术的安全性。图源备注:图片由AI生成,图片授权服务商Midjourney新加坡网络安全局(CSA)推出的《AI 系统安全指南》强调了 “设计即安全” 的理念,旨在帮助企业识别和应对各种网络安全威胁。指南分为五个阶段,涵盖了 AI 生命周期的各个环节,包括开发、运营和维护,甚至
最近,加州州长加文・纽森否决了一项备受争议的AI安全法案,引发了科技界和政界的热议,也为AI监管的未来走向投下了一记重磅炸弹。这项由民主党州参议员斯科特・维纳提出的法案,原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试,并要求开发者提供"关闭开关"。此外,该法案还计划建立一个州级机构,专门监督"前沿模型"的开发。图源备注:图片由AI生成,图片授权服务商Midjourney然而,纽森认为这项法案过