ने अपनी वेबसाइट पर दो 24K H100GPU क्लस्टर जारी किए हैं, जो बड़े मॉडल Llama-3 को प्रशिक्षित करने के लिए विशेष रूप से डिज़ाइन किए गए हैं। Llama-3 RoCEv2 नेटवर्क और Tectonic/Hammerspace के NFS/FUSE नेटवर्क स्टोरेज का उपयोग करता है। यह उम्मीद की जा रही है कि यह अप्रैल के अंत या मई के मध्य में लॉन्च होगा, संभवतः एक मल्टी-मोडल मॉडल के रूप में और इसे ओपन-सोर्स जारी किया जाएगा। Meta का योजना है कि 2024 के अंत तक 600,000 H100 की कंप्यूटिंग शक्ति हो।