Elon Musk, PDG de Tesla, met tout en œuvre pour acquérir des puces d'intelligence artificielle afin de soutenir son nouveau supercalculateur, une initiative qui a poussé les capacités de production de Nvidia à leurs limites.
Selon le Wall Street Journal, un responsable des ventes chez Nvidia a indiqué dans un courriel interne que la demande de Musk en puces mettait la chaîne d'approvisionnement de la société sous pression. Un porte-parole de Nvidia a déclaré : « Nous nous efforçons de répondre aux besoins de tous nos clients et avons considérablement augmenté la quantité de produits actuellement disponibles. »
Source : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Musk a annoncé en septembre que sa start-up d'intelligence artificielle, xAI, avait mis en ligne son cluster d'entraînement, baptisé « Colossus », en seulement 122 jours. Colossus est présenté comme « le système d'entraînement d'IA le plus puissant au monde », son cœur étant constitué de 100 000 puces d'entraînement H100 de Nvidia. Musk a également indiqué que la taille du cluster doublerait au cours des prochains mois, pour atteindre 200 000 puces, dont 50 000 unités H200 plus puissantes.
Actuellement, des concurrents de l'IA tels qu'OpenAI et Meta possèdent également des centaines de milliers de puces Nvidia, mais Colossus est le cluster de calcul IA unique au monde comptant le plus grand nombre de processeurs. En septembre, Larry Ellison, fondateur d'Oracle, a mentionné lors d'une rencontre avec des investisseurs qu'il avait « supplié » avec Musk, lors d'un dîner, Jensen Huang, PDG de Nvidia, de fournir davantage de puces d'IA.
Ellison a déclaré avec humour à propos de cet événement : « Veuillez prendre notre argent. Non, non, prenez plus d'argent. Nous avons besoin de plus de vos puces. » Leurs efforts semblent finalement avoir porté leurs fruits.
Le supercalculateur de xAI servira à entraîner son modèle linguistique de grande taille de nouvelle génération, Grok, qui vise à concurrencer GPT-4 d'OpenAI. En mai dernier, xAI a obtenu un financement de 6 milliards de dollars auprès d'investisseurs de poids, notamment Andreessen Horowitz et Sequoia Capital, portant sa valorisation à 24 milliards de dollars. Des informations récentes indiquent que xAI prévoit une nouvelle levée de fonds de 6 milliards de dollars, ce qui porterait sa valorisation à 50 milliards de dollars.
Points clés :
🌟 Le supercalculateur Colossus de xAI de Musk utilise 100 000 puces H100 de Nvidia et se présente comme le système d'entraînement d'IA le plus puissant au monde.
💰 Musk et le fondateur d'Oracle, Ellison, ont supplié Nvidia de leur fournir davantage de puces lors d'un dîner, et leurs efforts ont finalement abouti.
🚀 xAI a obtenu plus de 6 milliards de dollars de financement et vise à lancer Grok, un modèle linguistique de grande taille qui concurrencera GPT-4 d'OpenAI.