La tecnología Gaudi2 de Intel ha demostrado un rendimiento excepcional en la inferencia de modelos de lenguaje a gran escala, rivalizando con los aceleradores de IA de Nvidia. El rendimiento de Gaudi2 en la decodificación es comparable al de los sistemas Nvidia H100, e incluso supera al de los Nvidia A100.
Según los precios de la nube pública, la relación precio-rendimiento de Gaudi2 en entrenamiento e inferencia también supera a la de los Nvidia A100 y H100.
Intel planea lanzar la tecnología Gaudi3 en 2024, la cual ofrecerá una potencia de procesamiento y un ancho de banda de red superiores, mejorando aún más el rendimiento.