Recientemente, el equipo del profesor Zhai Jidong del Instituto de Computación de Alto Rendimiento de la Universidad Tsinghua, junto con la empresa de innovación tecnológica Qingcheng Jizhi, afiliada a Tsinghua, ha anunciado una emocionante noticia: el lanzamiento del motor de inferencia de modelos grandes de código abierto "赤兔 Chitu". Este lanzamiento innovador marca otro importante avance en el campo de la IA en China, especialmente en el desarrollo de motores de inferencia.
"赤兔 Chitu" destaca por su capacidad de ejecutar modelos de precisión FP8 de forma nativa en GPU que no sean de la arquitectura Nvidia Hopper y en una variedad de chips nacionales. Esto significa que los desarrolladores, independientemente de si utilizan chips importados o nacionales, pueden utilizar este motor de inferencia para lograr una inferencia de modelos de IA eficiente. Este avance no solo impulsa la aplicación generalizada de los chips de IA nacionales, sino que también proporciona un sólido apoyo técnico para la construcción del ecosistema de IA en China.
Nota de la fuente de la imagen: La imagen fue generada por IA, el proveedor de servicios de autorización de imágenes es Midjourney.
Tang Xiongchao, CEO de Qingcheng Jizhi, declaró en la conferencia de lanzamiento que actualmente en China hay una falta de productos de código abierto de nivel de producción en este componente central que es el motor de inferencia. El código abierto de "赤兔 Chitu" tiene como objetivo solucionar este problema y contribuir a la construcción del ecosistema de IA en China. Al abrir el código fuente, los desarrolladores e investigadores pueden utilizar, modificar y optimizar libremente este motor de inferencia, acelerando la iteración e innovación de la tecnología de IA en China.
En el contexto de la creciente competencia mundial en tecnología de IA, esta iniciativa del equipo de Tsinghua brindará nuevas oportunidades para el desarrollo de las empresas chinas en este campo. Con el motor de inferencia "赤兔 Chitu", las empresas podrán desarrollar productos de IA que satisfagan las demandas del mercado de forma más rápida, mejorando su competitividad general. Además, el enfoque de código abierto atraerá a más desarrolladores a participar en la investigación y desarrollo de IA, impulsando conjuntamente el progreso tecnológico.
El lanzamiento de "赤兔 Chitu" no solo representa una innovación tecnológica, sino también un paso adelante para mejorar la cadena industrial de la IA nacional. En el futuro, esperamos que más empresas y desarrolladores puedan utilizar esta herramienta para navegar con éxito en el océano de la IA y crear una nueva era de la IA en China.