A API de Moderação Mistral, lançada pela Mistral AI, é um serviço de moderação de conteúdo projetado para ajudar os usuários a detectar e filtrar conteúdo de texto indesejado. Esta API utiliza a mesma tecnologia de moderação empregada no Le Chat, agora disponibilizada publicamente para que os usuários possam personalizar e utilizar esta ferramenta de acordo com aplicações e padrões de segurança específicos. O modelo é um classificador baseado em LLM (Large Language Model) que pode classificar a entrada de texto em 9 categorias predefinidas. A API da Mistral AI oferece suporte nativo para vários idiomas, sendo treinada especificamente para árabe, chinês, inglês, francês, alemão, italiano, japonês, coreano, português, russo e espanhol. As principais vantagens desta API incluem o aumento da escalabilidade e robustez da moderação, além de diretrizes detalhadas de políticas e guias de início rápido fornecidos na documentação técnica para ajudar os usuários a implementar efetivamente a proteção de segurança em nível de sistema.