En la conferencia GTC del 18 de marzo, el CEO de Nvidia, Jensen Huang, anunció un plan ambicioso para aumentar la velocidad de procesamiento de la inteligencia artificial de DeepSeek en 30 veces mediante el nuevo software Dynamo. Esta medida es una respuesta de Nvidia a la disrupción del mercado causada por el programa de IA R1 de DeepSeek. La tecnología de DeepSeek reduce significativamente la cantidad de cómputo necesaria para cada consulta, lo que generó preocupación entre los inversores sobre el futuro de Nvidia.
El software Dynamo de Nvidia puede distribuir tareas de inferencia de IA en hasta 1000 GPU para procesamiento paralelo, lo que aumenta enormemente el rendimiento de las consultas. Huang declaró que con el nuevo chip Blackwell, Dynamo puede ofrecer 30 veces más capacidad de procesamiento en la misma arquitectura. Esta mejora permite que los centros de datos de IA procesen más tokens por segundo, aumentando los ingresos generales.
Específicamente, el software Dynamo puede aumentar el procesamiento a un costo de 1 dólar por millón de tokens. Esto significa que los proveedores de servicios pueden optar por procesar simultáneamente las consultas de más clientes o brindar un servicio más potente a un solo usuario, cobrando tarifas más altas. Nvidia denomina a este servicio de IA de alto rendimiento como "fábrica de IA".
Para mejorar aún más el rendimiento de DeepSeek, Nvidia también lanzó en HuggingFace una versión ajustada de DeepSeek R1. Esta versión utiliza menos bits de cálculo, es decir, "FP4", lo que aumenta significativamente el rendimiento sin reducir notablemente la precisión del modelo.
Además de Dynamo, Nvidia presentó la última versión del chip Blackwell, "Ultra", que mejora la capacidad de memoria y el rendimiento general. Además, Nvidia lanzó oficialmente la pequeña computadora personal DGX Spark para desarrolladores de IA y actualizó la configuración de la computadora de escritorio DGX Station.
En esta conferencia, Nvidia también mostró otros nuevos productos y proyectos de colaboración, incluyendo conmutadores de red mejorados y modelos de software para robots médicos, demostrando la continua capacidad de innovación de Nvidia en IA y computación.
Puntos clave:
🌟 Nvidia lanza el software Dynamo, aumentando la velocidad de procesamiento de la IA de DeepSeek en 30 veces.
💰 Dynamo permite a los proveedores de servicios procesar consultas de clientes de manera más eficiente, aumentando los ingresos.
🖥️ Se lanzan oficialmente el nuevo chip Blackwell "Ultra" y la computadora DGX Spark.