Recentemente, a equipe do Professor Zhai Jidong do Instituto de Computação de Alto Desempenho da Universidade Tsinghua, em colaboração com a empresa de inovação científica e tecnológica Qingcheng Jizhi, afiliada à Tsinghua, anunciou uma notícia emocionante: o lançamento do motor de inferência de modelo grande de código aberto "赤兔 Chitu". Este lançamento inovador marca mais um avanço importante da China na área de IA, especialmente no desenvolvimento de motores de inferência.
O principal destaque do motor "赤兔 Chitu" é sua capacidade de executar nativamente modelos de precisão FP8 em GPUs com arquitetura não Nvidia Hopper e em vários chips domésticos. Isso significa que, independentemente de dependerem de chips importados ou domésticos, os desenvolvedores podem usar este motor de inferência para realizar inferências de modelos de IA de forma eficiente. Este avanço não apenas impulsiona a ampla aplicação de chips de IA domésticos, mas também fornece um forte suporte técnico para a construção do ecossistema de IA na China.
Observação da fonte da imagem: A imagem foi gerada por IA, fornecida pela Midjourney.
Tang Xiongchao, CEO da Qingcheng Jizhi, disse na coletiva de imprensa que, atualmente, a China ainda carece de produtos de código aberto em nível de produção neste setor crucial de motores de inferência. O código aberto do "赤兔 Chitu" visa resolver esse problema e impulsionar a construção do ecossistema de IA na China. Ao abrir o código-fonte, desenvolvedores e pesquisadores podem usar, modificar e otimizar livremente este motor de inferência, acelerando a iteração e a inovação da tecnologia de IA na China.
No contexto da crescente competição global em tecnologia de IA, esta iniciativa da equipe da Tsinghua oferecerá novas oportunidades para as empresas chinesas no setor. Com o motor de inferência "赤兔 Chitu", as empresas poderão desenvolver produtos de IA que atendam às necessidades do mercado de forma mais rápida, melhorando sua competitividade geral. Além disso, a abordagem de código aberto atrairá mais desenvolvedores para a pesquisa e desenvolvimento de IA, impulsionando coletivamente o progresso tecnológico.
O lançamento do "赤兔 Chitu" não é apenas uma inovação tecnológica, mas também um passo para aperfeiçoar a cadeia industrial de IA doméstica. No futuro, esperamos que mais empresas e desenvolvedores possam usar esta ferramenta para navegar pelas águas da IA e criar uma nova era de IA na China.