最近、マスク氏はX(旧ツイッター)で、自身の会社xAIが、テネシー州メンフィスの「メンフィス・スーパーコンピューティング・クラスター」でAIトレーニングを行っていると発表しました。このクラスターは同市史上最大の資本投資であり、多くのメディアの注目を集めています。
地元メディアの報道によると、このスーパーコンピューティング・クラスターは、10万台の液冷式Nvidia H100 GPUを搭載しています。これらのチップは昨年から発売されており、需要が非常に高く、競合他社のOpenAIも使用しています。マスク氏はまた、クラスター全体は「RDMA(Remote Direct Memory Access)」と呼ばれる技術を使用しており、計算ノード間で効率的にデータ転送を行い、CPUの負担を軽減していると述べています。
xAIの目標は、このスーパーコンピューティング・クラスターを使用して、2024年12月までに「あらゆる指標において最強のAI」をトレーニングすることです。マスク氏は返信で、このメンフィス・スーパーコンピューティング・クラスターが目標達成に「大きなアドバンテージ」を提供すると強調しました。しかし、マスク氏の過去の複数のプロジェクトにおける遅延を考慮すると、この約束の実現には慎重な見方がされています。
実際、xAIの競合他社も黙っていません。OpenAI、Anthropic、Google、Microsoft、Metaなどの企業は、より強力で費用対効果の高い大規模言語モデル(LLM)と小型言語モデル(SLM)の開発にしのぎを削っています。そのため、xAIは、このAI競争で生き残るためには、革新的で実用的な新しいモデルを開発する必要があります。
さらに、関係者によると、MicrosoftはOpenAIのCEOであるサム・アルトマン氏と協力して、「スターゲート」というコードネームの1000億ドル規模のAIトレーニング用スーパーコンピューターを開発しています。この計画が順調に進めば、xAIのメンフィス・スーパーコンピューティング・クラスターが世界最強の地位を維持し続けることはなくなる可能性があります。
要点:
🌟 xAIは、10万台のNvidia H100 GPUを搭載した世界最強のAIトレーニング・クラスターの稼働を発表。
⚡ マスク氏は、2024年12月までに「最強のAI」をトレーニングする計画で、クラスターが大きなアドバンテージを提供すると述べている。
🚀 xAIは、OpenAI、Googleなどの競合他社からのプレッシャーに直面しており、競争力を維持するために革新的なモデルを開発する必要がある。