Une nouvelle importante concernant le domaine de l'intelligence artificielle vient de Jack Clark, co-fondateur d'Anthropic. Dans sa newsletter « Import AI », il réfute les affirmations selon lesquelles le progrès de l'IA ralentit, soulignant au contraire son accélération. Clark mentionne que le modèle o3 récemment lancé par OpenAI démontre le potentiel de croissance de l'IA, mais que sa mise en œuvre évolue.
Contrairement aux méthodes traditionnelles, le modèle o3 ne se contente pas d'augmenter la taille du modèle pour progresser. Il utilise l'apprentissage par renforcement et une puissance de calcul accrue. Pendant son exécution, o3 possède une capacité de « réflexion en cours d'exécution », ouvrant de nouvelles possibilités d'extension. Clark prévoit une accélération de cette tendance combinant méthodes traditionnelles et technologies émergentes d'ici 2025, avec davantage d'entreprises associant les grands modèles de base à de nouveaux modes de calcul pour faire progresser l'IA.
Cependant, Clark souligne un défi majeur lié à cette croissance rapide : le coût de calcul. Il explique que la version avancée d'o3 nécessite une puissance de calcul 170 fois supérieure à la version de base, dont la consommation de ressources dépasse déjà celle de o1, lui-même plus énergivore que GPT-4o. Les besoins en ressources de ces nouveaux systèmes varient selon les tâches, rendant la prévision des coûts de plus en plus complexe. Autrefois, les dépenses liées aux modèles dépendaient principalement de leur taille et de la longueur des sorties, mais la flexibilité d'o3 rend tout cela plus imprévisible.
Néanmoins, Clark est convaincu que la combinaison des méthodes d'extension traditionnelles et des nouvelles approches permettra un progrès de l'IA en 2025 plus significatif que jamais. Ses prévisions concernant les projets futurs d'Anthropic ont suscité un vif intérêt. Anthropic n'a pas encore publié de modèle de « raisonnement » ou de « temps de test » en concurrence avec la série o d'OpenAI ou Gemini Flash Thinking de Google. Son modèle phare, Opus3.5, a été temporairement mis de côté en raison d'améliorations de performance insuffisantes, mais sa recherche n'a pas été vaine ; il a joué un rôle important dans l'entraînement du nouveau modèle Sonnet3.5, devenu l'un des modèles linguistiques les plus populaires du marché.
Points clés :
🌟 Le développement de l'IA ne ralentit pas, il s'accélère, notamment grâce aux modèles combinant méthodes traditionnelles et nouvelles approches de calcul.
💡 La capacité d'o3 à « réfléchir en cours d'exécution » ouvre de nouvelles possibilités d'extension et stimule le développement futur de l'IA.
💰 Malgré les progrès rapides, l'incertitude quant au coût de calcul reste un défi majeur pour le développement futur.
