La technologie Gaudi2 d'Intel offre des performances exceptionnelles dans l'inférence des modèles linguistiques de grande envergure, rivalisant avec les accélérateurs IA de Nvidia. Les performances de Gaudi2 en matière de décodage sont comparables, voire supérieures, au système Nvidia H100, et surpassent même le Nvidia A100.
Selon les prix du cloud public, le rapport coût-performance de Gaudi2 pour l'entraînement et l'inférence dépasse également celui des Nvidia A100 et H100.
Intel prévoit de lancer la technologie Gaudi3 en 2024, offrant une puissance de traitement et une bande passante réseau accrues, pour des performances encore améliorées.
