डिजिटल युग में, सामग्री सुरक्षा मुद्दे पर अधिक ध्यान दिया जा रहा है। 26 सितंबर को, OpenAI ने एक नया मल्टीमोडल सामग्री समीक्षा मॉडल लॉन्च किया, जिसका नाम "omni-moderation-latest" है।
यह मॉडल नवीनतम GPT-4o तकनीक पर आधारित है, जो हानिकारक पाठ चित्रों की पहचान और detection में सटीकता प्रदान करता है। यह अपडेट डेवलपर्स को शक्तिशाली उपकरण प्रदान करेगा, जिससे वे अधिक मजबूत समीक्षा प्रणाली बना सकें।
नए मॉडल की विशेषता यह है कि यह पाठ और चित्र इनपुट की समीक्षा का समर्थन करता है, विशेष रूप से गैर-अंग्रेजी सामग्री को संभालने में उत्कृष्टता दिखाता है।
पहले के समीक्षा मॉडल की तुलना में, "omni-moderation-latest" न केवल पहचान की सटीकता में सुधार करता है, बल्कि अधिक हानिकारक सामग्री की पहचान करने की क्षमता भी बढ़ाता है। यह हिंसा, आत्म-हानि और यौन सामग्री जैसे कई श्रेणियों का मूल्यांकन कर सकता है, यह सुनिश्चित करते हुए कि उपयोगकर्ता एक सुरक्षित स्थान पर संवाद कर सकें।
OpenAI ने 2022 में सामग्री समीक्षा API (Moderation API) लॉन्च करने के बाद से, स्वचालित समीक्षा प्रणाली को संभालने वाली सामग्री की मात्रा और प्रकार लगातार बढ़ रहा है, विशेष रूप से जब से अधिक से अधिक कृत्रिम बुद्धिमत्ता अनुप्रयोग बड़े पैमाने पर उत्पादन चरण में प्रवेश कर रहे हैं। आज, कई कंपनियाँ, जैसे Grammarly और ElevenLabs, इस API का उपयोग करके उपयोगकर्ता की सुरक्षा की रक्षा कर रही हैं, अनुचित सामग्री के उत्पादन को रोकने के लिए।
नए मॉडल के लाभ कई पहलुओं में प्रकट होते हैं:
पहले, यह मल्टीमोडल हानिकारक सामग्री वर्गीकरण कर सकता है, चित्र और पाठ के संयोजन का मूल्यांकन कर सकता है, और हिंसक और यौन संबंधी जोखिमों की पहचान कर सकता है।
दूसरे, मॉडल में दो नई पाठ समीक्षा श्रेणियाँ जोड़ी गई हैं, जो अवैध और हिंसक सामग्री से संबंधित हैं, जिससे समीक्षा क्षमता को और बढ़ाया गया है।
इसके अलावा, गैर-अंग्रेजी सामग्री की पहचान में सटीकता में काफी सुधार हुआ है, परीक्षण से पता चला है कि 40 भाषाओं में सटीकता 42% बढ़ गई है, विशेष रूप से कम संसाधन वाली भाषाओं में प्रदर्शन अधिक उत्कृष्ट है।
डेवलपर्स के लिए, यह नया समीक्षा मॉडल अभी भी मुफ्त सामग्री समीक्षा API के माध्यम से आसानी से उपलब्ध है। OpenAI को उम्मीद है कि यह उन्नयन अधिक उपयोगकर्ताओं को नवीनतम शोध परिणामों और सुरक्षा प्रणाली का उपयोग करके उपयोगकर्ताओं के लिए एक अधिक अनुकूल ऑनलाइन अनुभव बनाने में सक्षम बनाएगा।
आधिकारिक ब्लॉग: https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/
** मुख्य बिंदु:**
📊 नया मॉडल "omni-moderation-latest" GPT-4o तकनीक पर आधारित है, जो चित्र और पाठ के मल्टीमोडल समीक्षा का समर्थन करता है।
🌍 40 भाषाओं में पहचान सटीकता 42% बढ़ी है, विशेष रूप से कम संसाधन वाली भाषाओं में उत्कृष्टता दिखाई देती है
🔒 नई पाठ समीक्षा श्रेणियों में अवैध और हिंसक सामग्री की पहचान करने की क्षमता बढ़ाई गई है।
