हाल ही में, OpenAI के वैश्विक मामलों के उपाध्यक्ष अन्ना मकांजु (Anna Makanju) ने संयुक्त राष्ट्र के "भविष्य शिखर सम्मेलन" में कृत्रिम बुद्धिमत्ता पूर्वाग्रह पर अपने विचार व्यक्त किए।
उन्होंने उल्लेख किया कि OpenAI के o1 जैसे "अनुमान" मॉडल, AI सिस्टम में पूर्वाग्रह को काफी हद तक कम कर सकते हैं। तो, o1 यह कैसे करता है? मकांजु ने समझाया कि ये मॉडल उत्तरों में पूर्वाग्रह की पहचान स्वयं कर सकते हैं और "हानिकारक" उत्तर न देने के नियमों का अधिक पालन कर सकते हैं।
उन्होंने कहा कि o1 मॉडल प्रश्नों को हल करते समय अपने उत्तरों का मूल्यांकन करने में अधिक समय व्यतीत करता है, और आत्म-निरीक्षण कर सकता है: "यह कह सकता है, 'यह मेरा इस समस्या को हल करने का तरीका है', और फिर अपने उत्तर को फिर से देखता है, यह देखने के लिए कि 'ओह, यहाँ तर्क में कोई कमी हो सकती है।'" उन्होंने यहां तक कि यह भी बताया कि o1 अपने पूर्वाग्रहों का विश्लेषण करने में "लगभग पूर्ण" है, और जैसे-जैसे तकनीक में सुधार होता है, इसकी प्रदर्शन और भी बेहतर होगा।
हालांकि, यह "लगभग पूर्ण" कहना थोड़ा अतिशयोक्ति लग रहा है। OpenAI के आंतरिक परीक्षणों ने पाया कि "गैर-अनुमान" मॉडल, जिसमें उनका अपना GPT-4o भी शामिल है, के मुकाबले o1 कुछ पूर्वाग्रह परीक्षणों में अच्छी तरह से प्रदर्शन नहीं करता है। जाति, लिंग और आयु के मुद्दों पर, कुछ मामलों में o1 का प्रदर्शन GPT-4o से भी खराब था। जबकि छिपे हुए भेदभाव में, o1 का प्रदर्शन बेहतर था, लेकिन स्पष्ट भेदभाव में, यह आयु और जाति के मामलों में अधिक प्रमुख दिखता है।
और भी दिलचस्प बात यह है कि o1 का आर्थिक संस्करण o1-mini का प्रदर्शन और भी खराब है। परीक्षणों ने दिखाया कि o1-mini लिंग, जाति और आयु पर स्पष्ट भेदभाव की संभावना GPT-4o की तुलना में अधिक है, जबकि आयु के मुद्दे पर छिपे हुए भेदभाव भी अधिक स्पष्ट हैं।
इसके अलावा, वर्तमान अनुमान मॉडल में कई सीमाएँ हैं। OpenAI ने भी स्वीकार किया कि o1 कुछ कार्यों पर बहुत कम लाभ लाता है। इसकी प्रतिक्रिया गति धीमी है, कुछ प्रश्नों का उत्तर देने में 10 सेकंड से अधिक समय लग सकता है। और o1 की लागत भी कम नहीं है, इसके संचालन की लागत GPT-4o की 3 से 4 गुना है।
यदि मकांजु द्वारा बताए गए अनुमान मॉडल वास्तव में निष्पक्ष AI प्राप्त करने का सबसे अच्छा तरीका हैं, तो उन्हें पूर्वाग्रह के अलावा अन्य क्षेत्रों में भी सुधार करने की आवश्यकता है, ताकि वे एक व्यवहार्य विकल्प बन सकें। यदि ऐसा नहीं होता है, तो केवल वे ग्राहक जो वित्तीय रूप से सक्षम हैं और विभिन्न देरी और प्रदर्शन समस्याओं को सहन करने के लिए तैयार हैं, वास्तव में लाभान्वित हो सकेंगे।
मुख्य बिंदु:
🌟 OpenAI का o1 मॉडल कहा जाता है कि यह AI पूर्वाग्रह को काफी हद तक कम कर सकता है, लेकिन परीक्षण परिणाम बताते हैं कि इसका प्रदर्शन अपेक्षा से कम है।
💡 o1 छिपे हुए भेदभाव में GPT-4o से बेहतर प्रदर्शन करता है, लेकिन स्पष्ट भेदभाव में यह और भी खराब है।
💰 अनुमान मॉडल o1 की लागत अधिक है, यह धीमा है, और भविष्य में कई क्षेत्रों में सुधार की आवश्यकता है।
