A startup francesa de inteligência artificial, Mistral AI, lançou recentemente uma nova API de moderação de conteúdo, visando competir com a OpenAI e outros líderes do setor, além de abordar o crescente problema de segurança e filtragem de conteúdo de IA.
Este serviço é baseado no modelo Ministral8B da Mistral, finamente ajustado para detectar conteúdo potencialmente prejudicial em nove categorias diferentes, incluindo pornografia, discurso de ódio, violência, atividades perigosas e informações pessoalmente identificáveis. A API também pode analisar texto bruto e conversas.
A Mistral AI enfatizou em seu lançamento que "a segurança desempenha um papel fundamental em tornar a IA útil". Eles acreditam que as proteções de segurança em nível de sistema são cruciais para proteger os aplicativos downstream.
O lançamento da API de moderação de conteúdo ocorre em um momento em que a indústria de IA enfrenta pressões crescentes para melhorar a segurança de suas tecnologias. No mês passado, a Mistral também assinou um acordo na Cúpula de Segurança da IA com outras principais empresas de IA, comprometendo-se a desenvolver a tecnologia de IA de forma responsável.
A nova API já está em uso na plataforma Le Chat da Mistral e suporta 11 idiomas, incluindo árabe, chinês, inglês, francês, alemão, italiano, japonês, coreano, português, russo e espanhol. Essa capacidade multilíngue diferencia a Mistral de alguns de seus principais concorrentes que se concentram apenas em conteúdo em inglês.
A Mistral AI também estabeleceu parcerias com empresas de alto perfil como Microsoft Azure, Qualcomm e SAP, aumentando gradualmente sua influência no mercado de IA empresarial. A SAP anunciou recentemente que hospedará os modelos da Mistral, incluindo o Mistral Large2, em sua infraestrutura para fornecer soluções de IA seguras e conformes com os regulamentos europeus.
A estratégia tecnológica da Mistral demonstra uma maturidade além de sua idade. Ao treinar seu modelo de moderação para entender o contexto da conversa, em vez de apenas analisar texto isolado, a Mistral desenvolveu um sistema capaz de capturar conteúdo prejudicial mais sutil que pode ser perdido em filtros mais básicos.
Atualmente, a API de moderação é oferecida por meio da plataforma em nuvem da Mistral e é cobrada por uso. A Mistral afirma que continuará melhorando a precisão do sistema e expandindo seus recursos com base no feedback do cliente e nas necessidades de segurança em constante mudança.
Desde sua fundação, a Mistral cresceu rapidamente e se tornou uma força importante impulsionando a consideração da segurança da IA empresarial. Em um campo dominado por gigantes tecnológicos americanos, a perspectiva europeia da Mistral em privacidade e segurança pode ser sua maior vantagem.
Entrada da API: https://docs.mistral.ai/capabilities/guardrailing/
Destaques:
🌍 A API de moderação de conteúdo multilíngue da Mistral AI suporta 11 idiomas e detecta vários tipos de conteúdo prejudicial.
🔗 A API já está sendo usada na plataforma Le Chat da Mistral e estabeleceu parcerias com várias empresas.
🔒 A tecnologia da Mistral é baseada no contexto da conversa, melhorando sua capacidade de detectar conteúdo potencialmente prejudicial.