マスク氏、xAIのGrok3トレーニングのために40億ドルで10万枚のH100チップを購入!このテクノロジー界の「鉄人」は、ロケットや電気自動車の分野だけでなく、AI分野でも大きなニュースを打ち立てました。

マスク氏はツイッターで2回連続投稿し、xAIを宣伝。8月にGrok2、年末には10万枚のH100でトレーニングされたGrok3のリリースを発表しました。これはチップによる革新的なデータトレーニングであり、OpenAIのGPTをターゲットに、次世代の大規模言語モデルを目指しています。

QQ截图20240704093348.jpg

Grok1.5のリリース以来、マスク氏はAIスタートアップ企業であるxAIを精力的に支援してきました。Grokは、OpenAI、Google、Metaなどの巨大企業と競合するスタートアップ企業xAIが開発した、マスク氏が本格的に参入した生成AI分野のAIチャットボットです。彼らはオープンソース化を進め、超スーパーコンピューターセンターも構築しており、野心的な姿勢を見せています。

今年3月以降、xAIはGrok1.5大規模言語モデルと最初のマルチモーダルモデルであるGrok1.5Visionを相次いで発表しました。xAIは、Grok1.5Vが複数分野の推論、文書理解、科学図表、表処理などにおいて「既存の最先端マルチモーダルモデルに匹敵する」と述べています。

マスク氏は5月、xAIはまだ新しい企業であるため、Google DeepMindやOpenAIに対抗するにはGrokはまだ多くの準備が必要だと述べました。しかしxAIは着実に力を蓄え、モデルの性能向上を目指し、大企業へのプレッシャーを高めようとしています。

今回、マスク氏はGrok2を8月にリリースすると発表しました。これはデータトレーニングにおける大きな進歩であり、「人体蜈蚣効果」(モデルが同じ出力結果を生成する現象)の解決に効果的かもしれません。これは大規模言語モデルのユーザーにとって朗報です。

マスク氏はまた、Grok3を年末にリリースし、10万個のNVIDIA H100 GPUでトレーニングした後、「特別な存在」になると述べています。この注文は30億~40億ドルの価値があり、マスク氏のAIへの重視と投資を示しています。

xAIのGrok2とGrok3のユーザー範囲も注目されています。10万枚のH100でトレーニングされたモデルへの期待は高まっています。Metaなどの他のテクノロジー大手もより多くのGPUを購入していますが、xAIのこの取り組みは、AI分野における野心を明確に示しています。

さらに、マスク氏はxAIのデータセンターを自ら監督し、AI計算需要の急増に対応するため、液冷技術を採用しています。液冷ソリューションは冷却効率が高く、省エネで環境に優しく、安定性も高いことから、AIデータセンターの最適な選択肢となっています。