法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API，旨在与 OpenAI 及其他行业领军者展开竞争，同时应对日益增长的 AI 安全与内容过滤问题。
这项服务基于 Mistral 的 Ministral8B 模型，经过精细调优，能够在九个不同类别中检测潜在的有害内容，包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。
Mistral AI 在发布会上强调，“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为，系统级的安全防护措施对于保护下游应用至关重要。
此次发布的内容审核 API 恰逢 AI 行业面临越来越大压力之际，各公司被迫提升技术的安全性。上个月，Mistral 还与其他主要 AI 公司共同签署了 AI 安全峰会的协议，承诺将负责任地开发 AI 技术。
新推出的 API 已在 Mistral 的 Le Chat 平台上投入使用，支持包括阿拉伯语、中文、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语和西班牙语在内的11种语言。这种多语言能力使 Mistral 在某些主要只关注英语内容的竞争对手中脱颖而出。
Mistral AI 还与微软 Azure、Qualcomm 和 SAP 等高调企业建立了合作关系，逐步在企业 AI 市场中增强影响力。SAP 最近宣布将在其基础设施上托管 Mistral 的模型，包括 Mistral Large2，以提供符合欧洲法规的安全 AI 解决方案。
Mistral 的技术策略显示了其超越年龄的成熟性。通过训练其审核模型理解对话背景，而不仅仅是分析孤立文本，Mistral 开发了一个能够捕捉更微妙的有害内容的系统，这种内容可能会在更基本的过滤器中被遗漏。
目前，审核 API 已通过 Mistral 的云平台提供，按使用量收费。Mistral 表示，将根据客户反馈和不断变化的安全需求持续提升系统的准确性并扩展功能。
自成立以来，Mistral 迅速成长为推动企业 AI 安全思考的重要力量。在一个由美国科技巨头主导的领域中，Mistral 以其欧洲视角在隐私和安全方面可能成为其最大优势。
API入口:https://docs.mistral.ai/capabilities/guardrailing/
划重点:
🌍 Mistral AI 推出的多语言内容审核 API 支持11种语言，针对多种有害内容进行检测。
🔗 该 API 已在 Mistral 的 Le Chat 平台上应用，同时与多个企业建立了合作关系。
🔒 Mistral 的技术以对话背景为基础，增强了对潜在有害内容的检测能力。