L'équipe du professeur Zhai Jidong de l'Institut de calcul haute performance de l'Université Tsinghua, en collaboration avec Qingcheng Jizhi, une entreprise d'innovation technologique liée à Tsinghua, a récemment annoncé une nouvelle passionnante : le moteur d'inférence de modèle de grande taille open source « 赤兔 Chitu ». Cette innovation technologique marque une nouvelle avancée majeure pour la Chine dans le domaine de l'IA, en particulier dans le développement de moteurs d'inférence.
Le principal atout du moteur « 赤兔 Chitu » réside dans sa capacité à exécuter nativement des modèles de précision FP8 sur des GPU autres que ceux basés sur l'architecture NVIDIA Hopper, ainsi que sur diverses puces chinoises. Cela signifie que les développeurs, qu'ils utilisent des puces importées ou chinoises, peuvent utiliser ce moteur d'inférence pour réaliser des inférences de modèles d'IA efficaces. Cette avancée non seulement favorise l'utilisation généralisée des puces IA chinoises, mais fournit également un soutien technique solide à la construction de l'écosystème IA chinois.
Source : L'image a été générée par IA, et les droits d'utilisation de l'image sont détenus par Midjourney.
Lors de la conférence de lancement, Tang Xiongchao, PDG de Qingcheng Jizhi, a déclaré qu'il y avait actuellement un manque de produits open source de niveau production dans ce domaine crucial qu'est le moteur d'inférence en Chine. L'open source de « 赤兔 Chitu » vise précisément à résoudre ce problème et à contribuer à la construction de l'écosystème IA chinois. Grâce à l'ouverture du code source, les développeurs et les chercheurs peuvent utiliser, modifier et optimiser librement ce moteur d'inférence, accélérant ainsi l'itération et l'innovation des technologies IA chinoises.
Dans un contexte de concurrence mondiale de plus en plus féroce dans le domaine des technologies IA, cette initiative de l'équipe de Tsinghua offrira de nouvelles opportunités aux entreprises chinoises. Grâce au moteur d'inférence « 赤兔 Chitu », les entreprises pourront développer plus rapidement des produits IA répondant aux besoins du marché et améliorer leur compétitivité globale. De plus, l'approche open source attirera davantage de développeurs dans la recherche et le développement de l'IA, contribuant ainsi à l'avancement technologique.
Le lancement de « 赤兔 Chitu » représente non seulement une innovation technologique, mais aussi une étape importante vers l'amélioration de la chaîne d'approvisionnement de l'IA chinoise. À l'avenir, nous espérons que davantage d'entreprises et de développeurs pourront utiliser cet outil pour naviguer dans l'océan de l'IA et créer une nouvelle ère de l'IA chinoise.