清華大学高性能計算研究所の翟季冬教授チームと清華系科創企業である清程極智は先日、大規模モデル推論エンジン「赤兔Chitu」をオープンソース化するという朗報を発表しました。この革新的な技術の登場は、特に推論エンジンの開発において、国内AI分野における新たな大きな進歩を示しています。「赤兔Chitu」エンジンの最大の特長は、NVIDIA Hopperアーキテクチャ以外のGPUや様々な国産チップ上で、FP8精度モデルをネイティブ実行できる点です。