法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API,旨在与 OpenAI 及其他行业领军者展开竞争,同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型,经过精细调优,能够在九个不同类别中检测潜在的有害内容,包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调,“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为,系统级的安全防
最近,《纽约时报》对 OpenAI 与其投资伙伴微软之间的关系进行了深入报道,指出两者的五年合作关系正面临冷却。主要原因包括 OpenAI 在财务上的压力、微软提供的计算能力有限,以及双方在一些基本规则上的分歧。图源备注:图片由AI生成,图片授权服务商Midjourney报道中提到,OpenAI 与微软之间的合同中包含一个颇具争议的条款,这个条款规定如果 OpenAI 开发出所谓的人工通用智能(AGI),即一种能够媲美人类思维的人工智能,微软将失去对 OpenAI 技术的访问权限。这一条款的存在,显然
最近,加州州长加文・纽森否决了一项备受争议的AI安全法案,引发了科技界和政界的热议,也为AI监管的未来走向投下了一记重磅炸弹。这项由民主党州参议员斯科特・维纳提出的法案,原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试,并要求开发者提供"关闭开关"。此外,该法案还计划建立一个州级机构,专门监督"前沿模型"的开发。图源备注:图片由AI生成,图片授权服务商Midjourney然而,纽森认为这项法案过
Alexis Conneau,OpenAI的前首席研究员及GPT-4o项目的负责人,宣布离职并创立新公司,引发AI领域热议。Conneau在社交平台透露,其在OpenAI的“#Her项目”结束后,决定创立新公司。他幽默回应关于人工通用智能(AGI)的时间表,暗示新公司可能会带来“AGEI”。Conneau在AI领域的贡献显著,尤其在自然语言处理(NLP)和机器翻译方面,他参与的项目如InferSent、MUSE、XNLI和XLM等均为该领域的重要里程碑。在FAIR和Facebook AI的研究经历,以及在多个顶级学府的教育背景,为他的科研和创业之路奠定了坚实基础。随着新公司的成立,AI界对其未来的创新充满期待。