Dans le domaine interdisciplinaire des neurosciences et de l'intelligence artificielle, le neuroscientifique de renom Anthony Zador a eu une conversation approfondie avec Paul Middlebrooks, animateur du podcast Brain Inspired. En tant que pionnier dans ce domaine, Zador a détaillé ses perspectives uniques sur l'avenir de NeuroAI.
De sa résistance initiale au terme « NeuroAI » à son enthousiasme actuel pour ce domaine, la transformation de Zador provient d'une réflexion approfondie sur la nature du problème. Il souligne que dans les années 80 et 90, les neurosciences computationnelles et les réseaux neuronaux artificiels étaient étroitement liés. Cependant, au fur et à mesure que la recherche a progressé, il s'est rendu compte qu'il ne suffisait pas de se concentrer uniquement sur les caractéristiques dynamiques des circuits neuronaux ; il était plus important de comprendre comment ces circuits aident les organismes à résoudre des problèmes concrets.
Légende : Image générée par IA, fournisseur de services d'autorisation d'images : Midjourney
En ce qui concerne le développement actuel de l'IA, Zador a présenté un point de vue stimulant. Il estime que l'architecture Transformer, actuellement très populaire, pourrait être un contre-exemple du succès de NeuroAI, car elle n'a presque aucune ressemblance avec le fonctionnement du cerveau. Il explique que le succès de ChatGPT est principalement dû aux caractéristiques fermées du système linguistique, et non à une véritable simulation des processus cognitifs humains.
Pour l'avenir du développement de l'IA, Zador souligne le défi crucial de la coordination multi-objectifs. Il indique que les systèmes d'IA actuels excellent dans l'optimisation d'un seul objectif, mais qu'ils sont souvent moins performants lorsqu'ils doivent gérer plusieurs objectifs. En revanche, les êtres vivants ont développé au cours de l'évolution des mécanismes ingénieux pour équilibrer plusieurs objectifs tels que la recherche de nourriture, la fuite et la reproduction. La manière dont ce mécanisme d'équilibre est mis en œuvre pourrait être une source d'inspiration importante pour le développement futur de l'IA.
En ce qui concerne le développement et l'apprentissage, Zador a présenté un point de vue novateur. Il considère que le génome humain peut être considéré comme une « représentation compressée » des circuits neuronaux, permettant la génération de structures complexes grâce à des règles récursives. Ce point de vue est étayé par ses dernières recherches : son équipe a réussi à compresser de grands réseaux neuronaux de 100 à 1000 fois, tout en conservant leurs performances.
Concernant le développement de la robotique, Zador souligne la difficulté de la transition de la simulation à la réalité (sim-to-real). Il indique que les systèmes biologiques font preuve d'une capacité d'adaptation remarquable à cet égard, par exemple, les chiens, malgré leurs différences de taille, partagent des instructions de développement neuronal similaires. Derrière cette adaptabilité se cache un processus de développement soigneusement conçu qui permet d'acquérir des capacités complexes en résolvant progressivement des sous-problèmes.
Pour l'avenir, Zador estime que l'apprentissage par curriculum pourrait être une voie importante pour surmonter les obstacles actuels du développement de l'IA. En décomposant les tâches complexes en sous-tâches plus petites et en les apprenant progressivement dans un ordre logique, les systèmes d'IA pourraient être plus efficaces que s'ils apprenaient directement l'objectif final. Cette méthode pourrait non seulement accélérer l'apprentissage, mais aussi améliorer l'adaptabilité du système face aux changements du monde réel.
Cette conversation met en lumière non seulement les perspectives de fusion profonde entre les neurosciences et l'intelligence artificielle, mais aussi l'importance de l'inspiration tirée de l'intelligence biologique pour le développement de l'intelligence artificielle. Avec l'approfondissement des recherches, cette exploration interdisciplinaire apportera certainement de nouvelles perspectives sur l'avenir du développement de l'IA.
