L'API de modération Mistral, développée par Mistral AI, est un service de modération de contenu visant à aider les utilisateurs à détecter et à filtrer les contenus indésirables. Cette API, basée sur la même technologie que le service de modération utilisé dans Le Chat, est désormais accessible au public. Elle permet aux utilisateurs de personnaliser et d'utiliser cet outil en fonction de leurs applications et normes de sécurité spécifiques. Le modèle est un classificateur basé sur un LLM (grand modèle linguistique) capable de classer les entrées textuelles en 9 catégories prédéfinies. L'API de Mistral AI prend en charge plusieurs langues de manière native, et a été spécifiquement entraînée pour l'arabe, le chinois, l'anglais, le français, l'allemand, l'italien, le japonais, le coréen, le portugais, le russe et l'espagnol. Les principaux avantages de cette API sont l'amélioration de l'extensibilité et de la robustesse de la modération, ainsi qu'une aide à la mise en œuvre d'une protection de sécurité au niveau du système grâce à une définition précise des politiques et à un guide de démarrage fournis dans la documentation technique.