法国人工智能新秀Mistral AI于近日推出全新内容审核API服务，这一举措不仅彰显了其在全球AI领域的雄心，更体现了对AI安全治理的深度思考。这款基于Ministral8B模型打造的审核系统，能够精准识别九大类潜在有害内容，包括性内容、仇恨言论、暴力、危险活动以及个人身份信息等。值得关注的是，该API支持11种主要语言，涵盖阿拉伯语、中文、英语、法语等，这一多语言处理能力让Mistral在全球AI内容审核市场占据了独特优势。目前，该服务已率先在Mistral自家的Le Chat平台上线应用。图源备注

法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API，旨在与 OpenAI 及其他行业领军者展开竞争，同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型，经过精细调优，能够在九个不同类别中检测潜在的有害内容，包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调，“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为，系统级的安全防