जिना एम्बेडिंग्स V2 बेस एक अंग्रेज़ी पाठ एम्बेडिंग मॉडल है, जो 8192 अनुक्रम लंबाई का समर्थन करता है। यह बर्ट आर्किटेक्चर (जिनाबर्ट) पर आधारित है, जो ALiBi के सममित द्विदिश संस्करण का समर्थन करता है, जिससे लंबे अनुक्रम लंबाई की अनुमति मिलती है। यह मॉडल C4 डेटासेट पर पूर्व-प्रशिक्षित किया गया है, और जिना AI के 40 करोड़ से अधिक वाक्य जोड़े और नकारात्मक नमूनों के संग्रह पर आगे प्रशिक्षित किया गया है। यह मॉडल लंबे दस्तावेज़ों को संसाधित करने के कई उपयोग के मामलों के लिए उपयुक्त है, जिसमें लंबे दस्तावेज़ पुनर्प्राप्ति, शब्दार्थ पाठ समानता, पाठ पुन: क्रमबद्धता, सिफारिशें, RAG और LLM-आधारित जनरेटिव खोज शामिल हैं। मॉडल में 137 मिलियन पैरामीटर हैं, और एकल GPU पर अनुमान लगाने की सलाह दी जाती है।