Le cloud intelligent de Baidu a récemment réussi à allumer le premier cluster de plusieurs dizaines de milliers de cartes Kunlun 3 auto-développé en Chine. Cette avancée majeure marque non seulement une étape importante pour Baidu dans le domaine de la puissance de calcul pour l'intelligence artificielle, mais offre également de nouvelles pistes de développement à l'ensemble du secteur. Avec les progrès constants de la technologie, l'amélioration de la puissance de calcul est essentielle pour prendre en charge l'entraînement et les applications de modèles à grande échelle. Au cours de l'année écoulée, avec la popularisation de la technologie de l'IA, de nombreuses entreprises ont été confrontées à un manque de puissance de calcul, ce qui a entraîné une augmentation significative du coût d'utilisation des grands modèles. Baidu a indiqué que grâce à ses puces auto-développées

Récemment, Chengdu Huawave a révélé sur sa plateforme interactive qu'elle avait développé avec succès une puce d'intelligence artificielle spécialement conçue pour le calcul en périphérie. Cette puce possède une puissance de calcul IA atteignant 16 Tops et est actuellement testée en petite quantité chez plusieurs clients de différents secteurs. Cette nouvelle puce, en plus de sa puissance de calcul impressionnante, offrira des performances exceptionnelles en codage-décodage vidéo, prenant en charge le traitement vidéo jusqu'à 8K. Il s'agit là d'une avancée technologique majeure pour les applications de vidéosurveillance, de maison intelligente, etc. Chengdu Huawave a indiqué que, outre...

Récemment, la société de cloud computing CoreWeave a officiellement inauguré son premier centre de données international au Royaume-Uni, marquant son expansion sur des marchés en dehors des États-Unis. Fondée en 2017, CoreWeave s'est initialement concentrée sur l'extraction de cryptomonnaies, mais avec l'augmentation fulgurante de la demande de calcul pour l'intelligence artificielle, la société a décidé de réorienter son infrastructure GPU vers le domaine du calcul IA. CoreWeave a ouvert son siège européen à Londres en mai dernier et a ensuite réalisé un tour de financement de 1,1 milliard de dollars, portant sa valorisation à 190

Le gouvernement britannique a récemment annoncé un investissement massif dans le domaine de l'intelligence artificielle (IA), prévoyant de multiplier par 20 d'ici 2030 la puissance de calcul IA sous contrôle public. Le Premier ministre Keir Starmer a déclaré que ce plan visant à « libérer » l'intelligence artificielle ambitionne de faire du Royaume-Uni le leader mondial du secteur de l'IA. Malgré les inquiétudes du public concernant les impacts potentiels de l'IA, le gouvernement estime que cette technologie pourrait générer une croissance économique pouvant atteindre 470 milliards de livres sterling. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney.

Dell Technologies a réalisé une percée majeure dans le domaine du matériel AI, devenant le premier fournisseur mondial à lancer une nouvelle génération de supercalculateurs AI dédiés. Cette avancée marque une nouvelle ère pour la construction d'infrastructures AI. Michael Dell, fondateur et PDG de Dell, a annoncé via la plateforme de médias sociaux X que la société avait commencé à livrer les premiers systèmes PowerEdge XE9712 refroidis par liquide à CoreWeave, un fournisseur de services de calcul AI.

Dans le contexte de la transformation numérique, ONERugged a révolutionné les appareils IA industriels. Ce leader mondial des solutions informatiques industrielles a récemment lancé trois produits phares : l'ordinateur portable IA robuste EM-X14M, l'EM-X15M et la tablette IA robuste EM-I14M, qui ont immédiatement suscité l'intérêt du secteur. Premier appareil IA industriel au monde équipé d'un processeur Intel® Core™ Ultra, ces produits atteignent une puissance de calcul IA de 32 TOPS. Équipé d'un moteur IA dédié (N...

Lors d'une récente séance de questions-réponses sur Reddit, Sam Altman, PDG d'OpenAI, a admis que le manque de puissance de calcul était l'une des principales raisons pour lesquelles l'entreprise ne pouvait pas lancer fréquemment de nouveaux produits. Il a déclaré que les modèles d'IA actuels étaient de plus en plus complexes et qu'OpenAI était confrontée à de nombreuses contraintes et à des décisions difficiles quant à la manière d'allouer les ressources de calcul pour concrétiser ses nombreuses idées brillantes. De nombreux rapports indiquent qu'OpenAI a eu des difficultés à obtenir suffisamment d'infrastructures de calcul. Cette semaine, Reuters a rapporté...

Samsung Electronics a récemment annoncé le développement réussi du premier GDDR7 DRAM 24 Go au monde. Cette avancée majeure marque non seulement une nouvelle ère pour la technologie de stockage, mais injectera également une forte impulsion au secteur de l'IA en plein essor. Cette nouvelle puce mémoire utilise un procédé de fabrication de 10 nm de cinquième génération, permettant d'améliorer la densité des cellules de 50 % tout en conservant les mêmes dimensions de boîtier que la génération précédente. Grâce à l'introduction innovante de la technologie de modulation d'amplitude d'impulsion (PAM3), la vitesse de transfert de données atteint 40 Gbps, soit une augmentation de 25 % par rapport à la génération précédente.

Selon une analyse de la société de recherche sur l'IA Epoch AI, Google posséderait probablement la plus grande capacité de calcul d'intelligence artificielle au monde. Cette position de leader est principalement due à ses unités de traitement matriciel (TPU) développées en interne, dont la puissance de calcul équivaut à au moins 600 000 GPU Nvidia H100. Les chercheurs d'Epoch AI indiquent que compte tenu du vaste réseau de TPU de Google et des GPU Nvidia qu'il utilise, Google est probablement l'entreprise individuelle disposant de la puissance de calcul IA la plus importante à l'heure actuelle.

Une équipe de recherche de l'Université Jiao Tong de Shanghai et de l'Université Harvard a récemment présenté une nouvelle méthode d'adaptation fine des modèles : LoRA-Dash. Cette nouvelle méthode prétend être plus efficace que les méthodes LoRA existantes, en particulier pour l'adaptation fine à des tâches spécifiques. Elle permettrait d'obtenir les mêmes résultats avec une réduction du nombre de paramètres de 8 à 16 fois. Il s'agit sans aucun doute d'une avancée majeure pour les tâches d'adaptation fine nécessitant des ressources de calcul importantes. Dans le contexte du développement rapide des grands modèles de langage, la demande d'adaptation fine à des tâches spécifiques ne cesse de croître. Cependant, l'adaptation fine est souvent...

Wu Wen Xin Qiong, une start-up d'IA créée il y a un peu plus d'un an, a récemment bouclé un tour de financement de série A de près de 500 millions de yuans, portant son financement total à plus d'un milliard de yuans, ce qui en fait le roi du financement dans le domaine des infrastructures d'IA. Ses actionnaires comprennent des fonds publics, des fonds régionaux et des sociétés de capital-risque de renom telles que Shunwei Capital et Dacheng Capital. L'un des fondateurs, Wang Yu, est le directeur du département d'électronique de l'université Tsinghua, et les membres de l'équipe sont pour la plupart issus de Tsinghua, avec une riche expérience en recherche. En 2016, Deephi, incubé par le laboratoire NICS-EFC de Tsinghua, a été racheté par Xilinx pour 300 millions de dollars. Wu Wen Xin Qiong se concentre sur l'utilisation de logiciels pour...

La gamme d'iPhone 17, que la société Apple s'apprête à lancer, devrait être équipée de 12 Go de RAM afin de répondre aux besoins en mémoire des futurs grands modèles d'IA. Les 8 Go de RAM actuels des iPhone 15 Pro et iPhone 16 sont insuffisants pour prendre en charge des grands modèles de 7 milliards de paramètres. Un grand modèle de 13 milliards de paramètres nécessite au minimum 5 Go de mémoire ; une fois l'espace occupé par le système et les applications soustrait, les 8 Go de RAM ne permettent pas d'obtenir un espace suffisant. La configuration de 12 Go de RAM offrira un espace suffisant pour des modèles d'IA de plus grande envergure, ce qui présage…

Nvidia a publié en open source deux nouveaux grands modèles, Nemotron-4-Minitron-4B et Nemotron-4-Minitron-8B, qui utilisent des méthodes d'entraînement efficaces basées sur l'élagage structuré et la distillation de la connaissance, réduisant ainsi considérablement les besoins en entraînement et diminuant la consommation de données et de puissance de calcul. Comparés aux méthodes traditionnelles, les nouveaux modèles réduisent la quantité de données token d'entraînement de 40 fois et le coût de la puissance de calcul de 1,8 fois. Grâce à l'optimisation de Llama-3.18B, l'élagage structuré simplifie la structure du modèle et la distillation de la connaissance améliore les performances. Minitron

Meta, développeur du modèle linguistique de base Llama, indique que la puissance de calcul nécessaire pour entraîner les modèles futurs augmentera considérablement, la formation de Llama 4 devant être 10 fois plus importante que celle de Llama 3. Face à cette tendance, Meta souligne l'importance de développer dès maintenant les capacités de formation des modèles afin d'éviter de prendre du retard sur la concurrence. Meta a déjà publié Llama 3, avec 80 milliards de paramètres, et sa version améliorée Llama 3.1, avec 405 milliards de paramètres, ce qui en fait son plus grand modèle open source. Pour répondre aux besoins futurs des modèles, Meta est en train de...

Lors du sommet des partenaires de China Unicom 2024, Shen Dou, vice-président exécutif de Baidu Group, a prononcé un discours sur le thème « Adopter pleinement l’Intelligence Artificielle+, accélérer le développement d’une nouvelle productivité ». Il a expliqué qu’avec le développement accéléré des scénarios d’application des grands modèles, les besoins en puissance de calcul sous-jacente des entreprises augmentent constamment, faisant du choix « un cloud, plusieurs cœurs » une nécessité. Baidu Intelligent Cloud prévoit d’ouvrir la plateforme de puissance de calcul Baige, offrant une liberté de choix de puces, et de développer la plateforme d’outils Qianfan basée sur le grand modèle Wenxin, afin de réduire le seuil technologique et les coûts d’utilisation des grands modèles. Shen Dou a souligné l’importance de l’intelligence artificielle, soulignant que les grands modèles…

L'équipe DeepMind a récemment publié une étude révolutionnaire qui propose une solution innovante – une nouvelle méthode de sélection de données appelée JEST – aux problèmes de longue date de puissance de calcul et de temps dans le domaine de l'intelligence artificielle. JEST améliore considérablement l'efficacité de l'entraînement en sélectionnant intelligemment les meilleurs lots de données, plutôt que des échantillons individuels, réduisant ainsi le temps d'entraînement de l'IA de 13 fois et les besoins en puissance de calcul de 90 %. Cette stratégie est particulièrement efficace dans l'apprentissage multi-modal, réduisant non seulement le nombre d'itérations et d'opérations en virgule flottante, mais aussi en ne nécessitant que 10 %.

Dans le contexte d'une concurrence technologique mondiale de plus en plus intense, la Chine a réalisé des progrès remarquables dans le domaine de la puissance de calcul. Un responsable du Ministère de l'Industrie et des Technologies de l'information a annoncé lors de la Conférence mondiale sur l'intelligence artificielle 2024 que la puissance de calcul de la Chine s'est hissée au deuxième rang mondial.

'Gaoxin Development est un leader de la puissance de calcul avec une capitalisation boursière supérieure à 30 milliards de yuans.''Les actions de la société ont connu une forte hausse à court terme.''Le PER statique est de 156,31 fois, nettement supérieur à la moyenne du secteur.''La société a divulgué un projet d'acquisition de parts de la société Hua Kun Zhenyu Intelligent Technology.''La hausse récente du cours de l'action n'a pas encore été achevée par l'audit et l'évaluation des actifs cibles.''Les données du palmarès des transactions montrent que d'importants flux de capitaux ont été achetés.'

En 2024, les grands modèles connaissent une ascension fulgurante, tous les secteurs se les disputant. Les grands modèles améliorent non seulement la productivité, mais jouent aussi un rôle crucial dans le processus de numérisation. L'un des défis réside dans la compréhension insuffisante des secteurs par les grands modèles et les problèmes de fiabilité de la génération de contenu. L'insuffisance de puissance de calcul constitue un facteur limitant majeur pour le développement des grands modèles. Les tendances futures du développement de la puissance de calcul comprennent la puissance de calcul spécialisée, l'entraînement distribué, la durabilité énergétique et l'intégration matérielle et logicielle.

Selon Andrew Ng, la combinaison des données et de l'apprentissage automatique continuera de renforcer la position dominante des leaders du marché technologique. Un associé d'A16Z estime que chaque modèle ne peut faire qu'une seule chose et que davantage de données n'entraînent pas forcément un meilleur produit. La situation du « gagnant prend tout » varie selon les secteurs et les cas d'utilisation et nécessite une analyse concrète. La logique d'investissement de l'ère d'Internet ne fonctionne pas à l'ère de l'IA, car la puissance de calcul a un coût. Les modèles long tail, petits et spécialisés, présentent également des avantages, et la répartition des richesses sera plus équitable.