Mistral AI, une jeune pousse française de l'intelligence artificielle, a récemment lancé une nouvelle API de modération de contenu. Cette initiative non seulement souligne son ambition dans le domaine mondial de l'IA, mais témoigne également d'une réflexion approfondie sur la gouvernance de la sécurité de l'IA. Ce système de modération, basé sur le modèle Ministral8B, peut identifier avec précision neuf catégories de contenus potentiellement nuisibles, notamment les contenus à caractère sexuel, les discours de haine, la violence, les activités dangereuses et les informations personnelles.
Il est important de noter que cette API prend en charge onze langues principales, dont l'arabe, le chinois, l'anglais et le français. Cette capacité de traitement multilingue confère à Mistral un avantage unique sur le marché mondial de la modération de contenu IA. Actuellement, ce service est déjà déployé sur la plateforme Le Chat de Mistral.
Source : Image générée par IA, fournie par Midjourney
L'équipe Mistral souligne que la sécurité est la pierre angulaire du développement de l'IA, et que des mécanismes de protection au niveau du système sont essentiels pour garantir un déploiement sûr des technologies d'IA. Cette philosophie rejoint les engagements pris lors du sommet britannique sur la sécurité de l'IA l'année dernière, démontrant ainsi une position ferme en faveur d'un développement responsable de l'IA.
Récemment, Mistral a multiplié les initiatives commerciales. Après avoir conclu des partenariats stratégiques avec des géants de la technologie tels que Microsoft Azure, Qualcomm et SAP, elle lance cette API de modération, renforçant ainsi sa position sur le marché de l'IA pour les entreprises. Notamment, en collaboration avec SAP, les modèles de Mistral fourniront des solutions IA conformes à la législation européenne.
La stratégie technologique de Mistral est assez particulière. Contrairement à OpenAI et Anthropic, qui privilégient les services cloud, Mistral investit simultanément dans le calcul en périphérie et la modération de contenu. Cette stratégie permet de résoudre efficacement les problèmes de confidentialité des données, de latence et de conformité, ce qui est particulièrement attractif pour les entreprises européennes soumises à des réglementations strictes en matière de protection des données. Son modèle de modération est également capable de comprendre le contexte d'une conversation et d'identifier des contenus nuisibles subtils qui pourraient échapper aux filtres traditionnels.
Actuellement, cette API de modération est disponible sur la plateforme cloud de Mistral et fonctionne selon un système de facturation à l'utilisation. Mistral indique qu'elle continuera à optimiser les performances du système et à étendre ses fonctionnalités en fonction des retours utilisateurs et des besoins en matière de sécurité.
La rapide ascension de Mistral, une start-up parisienne créée il y a seulement un an, est remarquable. Dans le domaine de l'IA, dominé par les géants technologiques américains, la perspective européenne unique de Mistral et son attachement à la confidentialité et à la sécurité pourraient bien être ses atouts majeurs. Ces initiatives non seulement mettent en évidence l'innovation européenne en matière de sécurité de l'IA, mais offrent également de nouvelles pistes pour la gouvernance mondiale de l'IA.