Na conferência GTC de 18 de março, Jensen Huang, CEO da Nvidia, anunciou um plano impressionante para aumentar em 30 vezes a velocidade de processamento de inteligência artificial do DeepSeek com o novo software Dynamo. Essa iniciativa é uma resposta da Nvidia à disrupção do mercado causada pelo programa de IA R1 da DeepSeek. A tecnologia da DeepSeek reduz significativamente a quantidade de computação necessária para cada consulta, o que gerou preocupações entre os investidores sobre o futuro da Nvidia.
O software Dynamo da Nvidia consegue distribuir tarefas de inferência de IA em até 1000 GPUs para processamento paralelo, aumentando enormemente a taxa de transferência de consultas. Huang disse que, usando o novo chip Blackwell, o Dynamo consegue oferecer 30 vezes mais capacidade de processamento na mesma arquitetura. Esse aumento de capacidade permite que os data centers de IA processem mais tokens por segundo, aumentando a receita geral.
Especificamente, o software Dynamo consegue aumentar o processamento por segundo a um custo de US$ 1 por milhão de tokens. Isso significa que os provedores de serviços podem optar por processar simultaneamente as consultas de mais clientes ou fornecer um serviço mais robusto para um único usuário, cobrando preços mais altos. A Nvidia chama esse serviço de IA de alto desempenho de "fábrica de IA".
Para melhorar ainda mais o desempenho do DeepSeek, a Nvidia também lançou no HuggingFace uma versão ajustada do DeepSeek R1. Esta versão usa menos bits de computação, ou seja, "FP4", aumentando significativamente o desempenho sem reduzir significativamente a precisão do modelo.
Além do Dynamo, a Nvidia lançou a versão mais recente do chip Blackwell, o "Ultra", que melhora a capacidade de memória e o desempenho geral. Além disso, a Nvidia lançou oficialmente o DGX Spark, um pequeno computador pessoal para desenvolvedores de IA, e atualizou a configuração do computador desktop DGX Station.
Na conferência, a Nvidia também apresentou vários outros novos produtos e projetos de colaboração, incluindo switches de rede aprimorados e modelos de software para robôs médicos, demonstrando a capacidade contínua de inovação da Nvidia em IA e computação.
Destaques:
🌟 A Nvidia lança o software Dynamo, aumentando em 30 vezes a velocidade de processamento da IA DeepSeek.
💰 Com o Dynamo, os provedores de serviços podem processar consultas de clientes de forma mais eficiente, aumentando a receita.
🖥️ O novo chip Blackwell "Ultra" e o computador DGX Spark também foram lançados oficialmente na conferência.