La API de Moderación Mistral es un servicio de moderación de contenido desarrollado por Mistral AI, diseñado para ayudar a los usuarios a detectar y filtrar contenido de texto no deseado. Esta API utiliza la misma tecnología de moderación empleada en Le Chat, ahora disponible públicamente para que los usuarios puedan personalizarla y utilizarla según sus aplicaciones y estándares de seguridad específicos. El modelo es un clasificador basado en LLM (modelos de lenguaje grandes) capaz de clasificar entradas de texto en 9 categorías predefinidas. La API de Mistral AI admite múltiples idiomas de forma nativa, con un entrenamiento específico para árabe, chino, inglés, francés, alemán, italiano, japonés, coreano, portugués, ruso y español. Las principales ventajas de esta API incluyen una mayor escalabilidad y solidez en la moderación, así como una implementación eficiente de la protección de seguridad a nivel de sistema gracias a la definición detallada de políticas y guías de inicio proporcionadas en la documentación técnica.