Nova Série de Máquinas Virtuais ND H100v5 da Microsoft

A Microsoft lançou a nova série de máquinas virtuais ND H100v5, equipadas com as mais recentes GPUs NVIDIA H100 Tensor Core e rede NVIDIA Quantum-2 InfiniBand. Essas máquinas virtuais oferecem capacidade de computação incomparável, graças a recursos como:

• GPU de supercomputação para IA: Equipada com oito GPUs NVIDIA H100 Tensor Core;
• Unidade Central de Processamento (CPU) de última geração: Utilizando processadores Intel Xeon Scalable de 4ª geração;
• Rede de baixa latência: Com NVIDIA Quantum-2 ConnectX-7 InfiniBand;
• Desempenho otimizado de host para GPU: Fornecendo 64 GB/s de largura de banda por GPU via PCIe Gen5;
• Memória e largura de banda de memória em larga escala: Utilizando memória DDR5.

Com a utilização do novo tipo de dados de ponto flutuante FP8 de 8 bits em operações de multiplicação de matrizes, a velocidade aumentou seis vezes em comparação com o FP16 da geração anterior. As VMs ND H100v5 proporcionaram até duas vezes mais velocidade na inferência de modelos de linguagem grandes (como o BLOOM175B de ponta a ponta), demonstrando seu potencial para otimizar ainda mais os aplicativos de IA.