インテルのGaudi2技術は、大規模言語モデルの推論において優れた性能を発揮し、NVIDIAのAIアクセラレーターに匹敵します。Gaudi2のデコード性能は、NVIDIA H100システムと同等、あるいはNVIDIA A100を上回る結果を示しています。
パブリッククラウドの価格に基づくと、Gaudi2は、トレーニングと推論の両方において、NVIDIAのA100およびH100よりもコストパフォーマンスに優れています。
インテルは、2024年にさらに強力な処理能力とネットワーク帯域幅を提供するGaudi3技術の発表を予定しており、性能の更なる向上を目指しています。