Recientemente, la empresa xAI de Elon Musk ha logrado un avance tecnológico impactante con el lanzamiento de su sistema de entrenamiento de inteligencia artificial llamado "Colossus".
El núcleo de este sistema son la friolera de 100.000 GPUs H100 de Nvidia, lo que marca otro importante avance de xAI en el campo de la IA.
Musk compartió esta noticia el lunes en la plataforma social X, afirmando que Colossus es "el sistema de entrenamiento de IA más potente del mundo". Esto significa que el rendimiento de Colossus podría incluso superar al de la supercomputadora Aurora del Departamento de Energía de Estados Unidos, que en una prueba de referencia alcanzó la asombrosa velocidad de 10,6 exaflops.
La potencia de Colossus se debe principalmente a sus GPUs. La GPU H100 de Nvidia, lanzada en 2022, se considera el procesador de IA más avanzado del mercado.
Esta GPU es 30 veces más rápida que las GPUs anteriores al ejecutar modelos de lenguaje, especialmente en tareas que utilizan la arquitectura de red neuronal Transformer.
Para aumentar aún más el rendimiento de Colossus, Musk planea duplicar el número de tarjetas gráficas a 200.000 en los próximos meses, incluyendo 50.000 GPUs H200 de nueva generación.
La GPU H200 ofrece una velocidad de transferencia de datos significativamente mayor que la H100, lo que mejorará enormemente la eficiencia de los modelos de IA. Para xAI, esta actualización tecnológica significa que podrán desarrollar modelos de lenguaje aún más potentes.
De hecho, el producto estrella de xAI, Grok-2, se entrenó con 15.000 GPUs. Ahora, la potente capacidad de cálculo de Colossus significa que el desarrollo de sus versiones posteriores será mucho más fluido. xAI planea lanzar el sucesor de Grok-2 antes de fin de año.
Cabe mencionar que algunas de las GPUs de los servidores de Colossus estaban inicialmente reservadas para Tesla. Según informes anteriores, Musk solicitó a Nvidia la transferencia de 12.000 GPUs H100 por un valor superior a 500 millones de dólares a xAI.
Se espera que para fin de año, el gasto de Tesla en hardware de Nvidia alcance entre 3.000 y 4.000 millones de dólares, lo que demuestra la ambición de Musk en los campos de la IA y los vehículos eléctricos.
Puntos clave:
🌟 El sistema "Colossus" de xAI está equipado con 100.000 GPUs Nvidia H100, y se considera el sistema de entrenamiento de IA más potente del mundo.
🚀 Musk planea duplicar el número de GPUs de Colossus a 200.000 en unos meses, incluyendo 50.000 GPUs H200 de nueva generación.
💡 Colossus proporcionará un potente soporte computacional para el sucesor del modelo de lenguaje grande estrella de xAI, Grok-2, cuyo lanzamiento está previsto para finales de año.