Ilya Sutskever, cofondateur d'OpenAI, a récemment déclaré que les chercheurs en intelligence artificielle devaient trouver de nouvelles méthodes pour étendre l'intelligence artificielle afin de surmonter les limites actuelles.
Lors d'une conférence à NeurIPS 2024 à Vancouver, au Canada, Sutskever a prononcé un discours affirmant que l'ère du pré-entraînement de l'IA était sur le point de se terminer, et a prédit l'émergence d'une superintelligence artificielle.
Sutskever estime que l'augmentation des capacités de calcul grâce à un meilleur matériel, des logiciels et des algorithmes d'apprentissage automatique a dépassé la quantité totale de données disponibles pour l'entraînement des modèles d'IA. Ce chercheur en IA compare les données aux combustibles fossiles, une ressource qui finira par s'épuiser. Sutskever a déclaré :
« Les données n'augmentent pas, car nous n'avons qu'un seul internet. On pourrait même dire que les données sont le combustible fossile de l'IA. Elles sont créées d'une certaine manière, nous les utilisons maintenant, et nous avons atteint le pic des données, il n'y en aura plus à l'avenir – nous devons traiter les données que nous possédons. »
Le cofondateur d'OpenAI prédit que les agents IA, les données synthétiques et le calcul du temps d'inférence seront les prochaines étapes de l'évolution de l'intelligence artificielle, et mèneront finalement à la naissance d'une superintelligence artificielle.
Les agents IA pourraient bouleverser les modèles existants
Les agents IA possèdent des capacités dépassant celles des modèles actuels de chatbots ; ils peuvent prendre des décisions sans intervention humaine. Avec l'essor des grands modèles linguistiques (LLM) tels que les IA meme coins et Truth Terminal, les agents IA sont devenus un sujet brûlant dans le domaine des cryptomonnaies.
Truth Terminal a rapidement gagné en popularité après avoir commencé à promouvoir une meme coin appelée Goatseus Maximus (GOAT). Cette meme coin a finalement atteint une capitalisation boursière d'un milliard de dollars, attirant l'attention des investisseurs particuliers et des sociétés de capital-risque.
Le laboratoire d'intelligence artificielle Google DeepMind a publié Gemini 2.0, un modèle d'intelligence artificielle qui alimentera les agents IA.
Selon Google, les agents construits sur le framework Gemini 2.0 seront capables d'aider à accomplir des tâches complexes, telles que la coordination entre les sites web et le raisonnement logique.
Les progrès des agents IA capables d'agir et de raisonner de manière autonome permettront à l'IA de surmonter les hallucinations de données.
Les hallucinations de l'IA résultent de jeux de données incorrects, et le pré-entraînement de l'IA dépend de plus en plus de l'utilisation de vieux LLM pour entraîner de nouveaux LLM, ce qui réduit les performances au fil du temps.
Le goulot d'étranglement des données et l'avenir de l'IA
Les propos de Sutskever soulignent l'énorme défi auquel est confronté le développement de l'IA : à mesure que les modèles d'IA prennent de l'ampleur, les besoins en données augmentent également. Cependant, la réalité est que la vitesse à laquelle la quantité de données disponibles augmente est loin d'être suffisante pour répondre aux besoins croissants des modèles. Cela oblige les chercheurs à explorer de nouvelles méthodes pour surmonter le goulot d'étranglement des données.
Les agents IA, les données synthétiques et le calcul du temps d'inférence pourraient constituer de nouvelles pistes pour le développement futur de l'IA. Ces technologies devraient permettre aux modèles d'IA de réduire leur dépendance à d'énormes quantités de données et d'améliorer leurs capacités de raisonnement et de prise de décision. L'émergence d'une superintelligence artificielle pourrait annoncer une nouvelle ère pour la technologie de l'IA, qui pourrait révolutionner nos modes de vie et de travail.
Cependant, l'émergence d'une superintelligence artificielle suscite également des inquiétudes concernant l'éthique et la sécurité de l'IA. La question de savoir comment profiter des avantages de la technologie de l'IA tout en garantissant sa contrôlabilité et sa sécurité est une question que nous devons examiner attentivement.
