IBM anunció un importante avance en tecnología óptica en Yorktown Heights, Nueva York, que mejorará significativamente la eficiencia de los centros de datos al entrenar y ejecutar modelos de inteligencia artificial (IA) generativa.
Los investigadores de IBM han desarrollado una nueva tecnología óptica de encapsulación conjunta (CPO, por sus siglas en inglés) que utiliza la velocidad de la luz para las conexiones dentro del centro de datos, reemplazando los cables de cobre actualmente utilizados.
Si bien la fibra óptica se utiliza ampliamente en las comunicaciones y el comercio global, la mayoría de los centros de datos todavía dependen de cables de cobre para comunicaciones de corta distancia. Esto provoca que los aceleradores de GPU permanezcan inactivos durante el entrenamiento, desperdiciando tiempo y energía. El equipo de investigación de IBM demostró cómo introducir la velocidad y la capacidad de la luz en los centros de datos, aumentando significativamente el ancho de banda de las comunicaciones y reduciendo el tiempo de inactividad de la GPU, lo que acelera el procesamiento de los modelos de IA.
Según el artículo técnico publicado por IBM, el módulo prototipo CPO desarrollado por el equipo permite conexiones ópticas de alta velocidad, con un ahorro de energía cinco veces mayor, y extiende la longitud de los cables de conexión dentro del centro de datos de un metro a cientos de metros.
Además, con esta nueva tecnología, el entrenamiento de modelos de lenguaje grandes (LLM) puede ser cinco veces más rápido que con los cables tradicionales, lo que reduce el tiempo de entrenamiento de un LLM estándar de tres meses a tres semanas. Esta innovación no solo reduce significativamente los costos de escala de la IA generativa, sino que también mejora la eficiencia energética de los centros de datos, ahorrando energía equivalente al consumo anual de 5000 hogares estadounidenses.
La investigación de IBM muestra que la tecnología CPO puede aumentar el ancho de banda entre chips hasta 80 veces en comparación con las conexiones aéreas, aprovechando al máximo los avances en la tecnología de chips modernos. La tecnología de chips de nodo de 2 nanómetros de IBM puede albergar más de 50 mil millones de transistores, y la introducción de la tecnología CPO mejorará aún más la densidad y la eficiencia de los cálculos. Este prototipo exitoso ha sido probado en el proceso de fabricación bajo condiciones de alta humedad y temperaturas extremas, lo que garantiza la fiabilidad y la durabilidad de la interconexión óptica.
Esta investigación allana el camino para el futuro desarrollo de los centros de datos. IBM continuará liderando la investigación y el desarrollo de semiconductores, impulsando el desarrollo de tecnologías de comunicación óptica más eficientes para satisfacer las crecientes demandas de rendimiento de la IA.
Puntos clave:
🌟 IBM lanza una nueva tecnología óptica de encapsulación conjunta que reemplaza los cables de cobre tradicionales y mejora la eficiencia de los centros de datos.
⚡ La tecnología CPO puede reducir el tiempo de entrenamiento de los modelos de lenguaje grandes de tres meses a tres semanas, logrando una mejora de cinco veces en la velocidad.
🔋 Esta tecnología puede ahorrar una gran cantidad de energía en los centros de datos, equivalente al consumo anual de 5000 hogares.
