कृत्रिम बुद्धिमत्ता गणना स्टार्टअप Cerebras Systems Inc. ने अपनी "दुनिया की सबसे तेज़ कृत्रिम बुद्धिमत्ता अनुमान सेवा" का आधिकारिक लॉन्च किया है, जो निस्संदेह उद्योग के दिग्गज Nvidia Corp. के लिए एक सीधा चुनौती है। Cerebras के CEO एंड्रयू फेल्डमैन ने कहा कि नई सेवा तेज़ गति और कम लागत पर AI अनुमान कार्यों को पूरा करने के लिए बनाई गई है, जो उच्च कुशल अनुमान समाधान की बढ़ती मांग का जवाब देती है।

चिप

Cerebras की "उच्च गति अनुमान" सेवा इसके शक्तिशाली WSE-3 प्रोसेसर पर आधारित है। इस प्रोसेसर में 900,000 से अधिक गणना कोर और 44GB ऑन-बोर्ड मेमोरी है, जिसका कोर संख्या एकल Nvidia H100 ग्राफ़िक्स प्रोसेसिंग यूनिट की तुलना में 52 गुना अधिक है। Cerebras का दावा है कि इसकी अनुमान सेवा की गति प्रति सेकंड 1,000 टोकन तक पहुँच सकती है, जो Nvidia के सबसे शक्तिशाली GPU का उपयोग करने वाली समान क्लाउड सेवाओं की तुलना में 20 गुना तेज है। सबसे महत्वपूर्ण बात यह है कि इस सेवा की प्रारंभिक कीमत केवल प्रति मिलियन टोकन 10 सेंट है, जो मौजूदा AI अनुमान कार्यभार के मूल्य के 100 गुना अधिक प्रभावी है।

Cerebras की अनुमान सेवा तीन पहुँच स्तर प्रदान करती है, जिसमें मुफ्त सेवा, डेवलपर स्तर और एंटरप्राइज स्तर शामिल हैं। डेवलपर स्तर API एंडपॉइंट के माध्यम से पहुँच प्रदान करता है, जिसमें Llama3.18B मॉडल के लिए प्रति मिलियन टोकन 10 सेंट का मूल्य है, जबकि Llama3.170B मॉडल के लिए यह 60 सेंट है। एंटरप्राइज स्तर अधिक अनुकूलन विकल्प और विशेष समर्थन प्रदान करता है, जो निरंतर कार्यभार के लिए उपयुक्त है।

कई प्रसिद्ध संस्थाएँ Cerebras के प्रारंभिक ग्राहक बन चुकी हैं, जिनमें ग्लैक्सो स्मिथक्लाइन, Perplexity AI Inc. और Meter Inc. शामिल हैं। DeepLearning AI Inc. के संस्थापक डॉ. एंड्रयू एनजी ने Cerebras की तेज़ अनुमान क्षमता की उच्च प्रशंसा की है, यह मानते हुए कि यह बड़े भाषा मॉडल के लिए बार-बार संकेत देने वाले एजेंट AI कार्यप्रवाहों के लिए विशेष रूप से सहायक है।

अनुमान सेवा के अलावा, Cerebras ने ग्राहकों को सभी प्रकार के AI विकास उपकरण प्रदान करने के लिए कई रणनीतिक साझेदारी की भी घोषणा की है। साझेदारों में LangChain, LlamaIndex, Docker Inc., Weights & Biases Inc. और AgentOps Inc. शामिल हैं। इसके अलावा, Cerebras का अनुमान API OpenAI के चैट कम्पलीशन API के साथ पूरी तरह से संगत है, जिसका मतलब है कि मौजूदा अनुप्रयोगों को इसके प्लेटफ़ॉर्म पर आसानी से स्थानांतरित किया जा सकता है।