Intels Gaudi2-Technologie zeigt herausragende Leistung beim Schlussfolgern großer Sprachmodelle und ist mit den KI-Beschleunigern von Nvidia vergleichbar. Die Leistung von Gaudi2 beim Decodieren ist mit Nvidia H100-Systemen vergleichbar und übertrifft sogar Nvidia A100.
Basierend auf den Preisen öffentlicher Clouds bietet Gaudi2 sowohl beim Training als auch beim Schlussfolgern ein besseres Preis-Leistungs-Verhältnis als Nvidias A100 und H100.
Intel plant die Einführung der Gaudi3-Technologie für 2024, die eine noch höhere Rechenleistung und Netzwerkbandbreite bieten und die Leistung weiter verbessern wird.
