L'équipe Qwen d'Alibaba a récemment publié le modèle d'IA inférentiel QwQ-32B-Preview, marquant une avancée majeure dans le domaine de l'intelligence artificielle. Ce modèle, doté de 32,5 milliards de paramètres, peut traiter des invites textuelles longues de 32 000 mots et a surpassé la série o1 d'OpenAI dans plusieurs tests de référence.
Lors de tests clés tels qu'AIME et MATH, QwQ-32B-Preview a démontré une capacité de raisonnement exceptionnelle, particulièrement dans la résolution de problèmes logiques et mathématiques complexes. Le modèle utilise un mécanisme unique d'auto-vérification des faits, évitant ainsi les pièges de raisonnement courants dans les modèles d'IA traditionnels.
Contrairement à d'autres modèles d'IA, QwQ-32B-Preview adopte une stratégie de planification et d'exécution anticipée pour trouver des solutions aux problèmes. Le modèle est actuellement disponible sur la plateforme Hugging Face sous licence Apache 2.0, permettant aux développeurs de l'utiliser librement pour des applications commerciales.
Malgré ses performances impressionnantes, Alibaba reconnaît certaines limitations du modèle, telles que des changements de langue inattendus, des boucles de raisonnement et des lacunes en matière de raisonnement commun.
Dans le contexte de l'évolution continue de l'IA inférentielle, la publication de QwQ-32B-Preview est considérée comme une étape importante de l'industrie. Alors que la « loi d'échelle » perd de son attrait, le calcul inférentiel devient une direction clé pour améliorer les capacités des modèles d'IA. Des géants de la technologie comme Google et OpenAI augmentent également leurs investissements dans ce domaine.