MiniMax-Text-01
MiniMax-Text-01 एक शक्तिशाली भाषा मॉडल है, जिसमें 4560 अरब कुल पैरामीटर हैं, जो 40 लाख टोकन तक के संदर्भ को संभाल सकता है।
सामान्य उत्पादउत्पादकताभाषा मॉडलपाठ निर्माण
MiniMax-Text-01 MiniMaxAI द्वारा विकसित एक बड़ा भाषा मॉडल है, जिसमें 4560 अरब कुल पैरामीटर हैं, जिसमें प्रत्येक टोकन 459 अरब पैरामीटर को सक्रिय करता है। इसने एक मिश्रित वास्तुकला को अपनाया है, जो लाइटनिंग अटेंशन, softmax अटेंशन और एक्सपर्ट मिक्सिंग (MoE) तकनीक को जोड़ता है। उन्नत समानांतर रणनीतियों और अभिनव गणना-संचार ओवरलैपिंग विधियों, जैसे रैखिक ध्यान अनुक्रम समानांतरता प्लस (LASP+), परिवर्तनशील लंबाई वाले गोलाकार ध्यान, विशेषज्ञ टेंसर समानांतरता (ETP) आदि के माध्यम से, प्रशिक्षण संदर्भ लंबाई को 10 लाख टोकन तक बढ़ाया गया है, और यह अनुमान लगाते समय 40 लाख टोकन तक के संदर्भ को संभाल सकता है। कई शैक्षणिक मानदंड परीक्षणों में, MiniMax-Text-01 ने शीर्ष मॉडल का प्रदर्शन दिखाया है।
MiniMax-Text-01 नवीनतम ट्रैफ़िक स्थिति
मासिक कुल विज़िट
29742941
बाउंस दर
44.20%
प्रति विज़िट औसत पृष्ठ
5.9
औसत विज़िट अवधि
00:04:44
