Meta a lancé son dernier modèle d'intelligence artificielle open source, Llama4, marquant une nouvelle avancée majeure dans le domaine de l'IA. Llama4 est disponible en deux versions, Scout et Maverick, conçues pour améliorer les fonctionnalités et les performances des modèles d'IA. Meta précise que Llama4 est un grand modèle multi-modal capable de traiter divers types de données, tels que le texte, les images, les vidéos et l'audio, et de convertir librement entre ces formats.
Il est à noter que la série Llama4 utilise pour la première fois une architecture « expert mixte » (MoE), une conception novatrice qui améliore considérablement l'efficacité de l'entraînement et de la réponse du modèle. En divisant le modèle en plusieurs sous-modèles « experts » spécialisés dans des tâches spécifiques, Llama4 est plus rapide et plus précis pour traiter les requêtes complexes.
Selon Meta, Scout et Maverick sont les modèles les plus avancés de la société. Scout possède 17 milliards de paramètres actifs, avec 16 modèles « experts », pour un total de 1090 milliards de paramètres. Maverick, quant à lui, possède également 17 milliards de paramètres actifs, mais avec 128 modèles « experts », pour un total impressionnant de 4000 milliards de paramètres. De plus, Meta développe un modèle plus puissant nommé Behemoth, décrit comme le « maître » des nouveaux modèles, annonçant ainsi de futures innovations.
Ces modèles, entraînés sur un grand nombre de données non étiquetées, présentent une capacité exceptionnelle de compréhension visuelle. Scout et Maverick sont désormais accessibles publiquement sur Llama.com et sur les plateformes partenaires de Meta, et sont déjà déployés sur des plateformes de médias sociaux telles que WhatsApp, Messenger et Instagram Direct.
Lors de la présentation, Mark Zuckerberg, PDG de Meta, a déclaré : « Notre objectif est de créer une intelligence artificielle de pointe au niveau mondial et de la rendre open source pour que le plus grand nombre puisse en bénéficier. » Il a souligné que le lancement de Llama4 marque l'essor de l'intelligence artificielle open source et changera la donne pour le secteur.
Meta prévoit d'investir jusqu'à 65 milliards de dollars au cours de l'année à venir pour étendre son infrastructure d'intelligence artificielle, bien que les investisseurs restent prudents quant au retour sur investissement réel des grandes entreprises technologiques. Ces actions permettront sans aucun doute à Meta d'être plus compétitif dans le domaine de l'IA et de stimuler l'innovation technologique dans l'ensemble du secteur.