インテルのGaudi2テクノロジーは、大規模言語モデル推論において、NVIDIAのAIアクセラレーターに匹敵する性能を示しました。Gaudi2は、推論性能においてNVIDIA A100を上回り、メモリ帯域幅の利用率も高くなっています。トレーニングと推論の両方において、NVIDIA A100とH100を上回るコストパフォーマンスを実現しています。新たなデータにより、インテルの大規模言語モデル推論における性能が実証されました。Gaudi3テクノロジーは2024年のリリース予定であり、大幅な性能向上をもたらすと期待されています。

研究によると、インテルのGaudi2テクノロジーは、大規模言語モデル推論においてNVIDIAのAIアクセラレータに匹敵する性能を示しました。Gaudi2の推論性能は、デコードにおいてNVIDIA H100システムと同等であり、NVIDIA A100を上回ります。パブリッククラウドの価格に基づくと、Gaudi2は、トレーニングと推論の両方において、NVIDIAのA100とH100よりもコストパフォーマンスに優れています。インテルGaudi3は2024年の発売を予定しており、4倍の処理能力と2倍のネットワーク帯域幅を提供する予定です。インテルは、高性能コンピューティングと…