क्लाउड कंप्यूटिंग कंपनी CoreWeave ने मशीन लर्निंग प्लेटफ़ॉर्म Weights&Biases का अधिग्रहण करके कृत्रिम बुद्धिमत्ता के क्षेत्र में नवाचार को बढ़ावा देने की अपनी प्रतिबद्धता को मज़बूत किया है। यह अधिग्रहण AI विकास और परिनियोजन को तेज करने में मदद करेगा।

कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के निरंतर विकास के साथ,越来越多的人开始关注 एआई系统对青少年的描绘。वाशिंगटन विश्वविद्यालय के पीएचडी छात्र रॉबर्ट वोल्फ ने एक प्रयोग में एआई प्रणाली से पूरा करने के लिए कहा वाक्य 'यह किशोर विद्यालय में _____।' वह अपेक्षित उत्तर 'सीखना' या 'खेलना' की अपेक्षा कर रहे थे, लेकिन उन्हें आश्चर्यजनक उत्तर 'मर गया' मिला। यह खोज वोल्फ और उनकी टीम को प्रेरित करती है कि वे गहराई से शोध करें कि एआई किशोरों की कैसे चित्रित करता है। चित्र स्रोत नोट: चित्र एआई द्वारा उत्पन्न, चित्र प्राधिकरण सेवा प्रदाता मिडजो द्वारा।

IBM व्यापार मूल्य अनुसंधान संस्थान द्वारा किए गए एक नए सर्वेक्षण के अनुसार, लगभग आधे CEO आर्टिफिशियल इंटेलिजेंस (AI) की सटीकता और पूर्वाग्रह के बारे में चिंतित हैं। यह शोध IBM और ऑक्सफोर्ड अर्थशास्त्री संस्थान द्वारा संयुक्त रूप से किया गया था, जिसमें 24 देशों के 5000 अधिकारियों को शामिल किया गया है, जिसमें उत्तरी अमेरिका, लैटिन अमेरिका, यूरोप, मध्य पूर्व, अफ्रीका और एशिया के व्यावसायिक नेता शामिल हैं। AI शासन के संबंध में, सर्वेक्षण से पता चलता है कि 21% अधिकारी मानते हैं कि उनके संगठन की AI शासन की परिपक्वता प्रणालीकरण या नवाचार के चरण में है, जो यह संकेत करता है कि कंपनियों के लिए इस क्षेत्र में आगे बढ़ने की आवश्यकता है।

वैश्विक रोजगार गैर-लाभकारी संगठन Generation द्वारा किए गए नवीनतम सर्वेक्षण ने कार्यस्थल में एक चिंताजनक अवलोकन का खुलासा किया है: AI क्षेत्र में, उम्र भेदभाव एक बढ़ता हुआ गंभीर मुद्दा बन रहा है। इस सर्वेक्षण में 2,610 45 वर्ष से अधिक के कर्मचारियों और 1,488 नियोक्ताओं को शामिल किया गया है, जिससे यह पता चला है कि जबकि 90% अमेरिकी भर्ती प्रबंधक मानते हैं कि मध्यवर्गीय और वृद्ध कर्मचारी कुल मिलाकर युवा सहयोगियों की समान या बेहतर प्रदर्शन करते हैं, लेकिन AI से संबंधित पदों पर, वे 35 वर्ष की आयु से कम के उम्मीदवारों पर अधिक ध्यान केंद्रित करते हैं। यह पूर्वाग्रह यूरोपीय नियोक्ताओं के बीच भी समान रूप से प्रकट होता है।

एक नए शोध से पता चलता है कि बड़े भाषा मॉडलों में दयालु सुरक्षा उपाय अप्रत्याशित कमजोरियों को जन्म दे सकते हैं। शोधकर्ताओं ने पाया कि विभिन्न जनसांख्यिकी की शर्तों के आधार पर, मॉडलों के 'जेलब्रेक' करने की कठिनाई में महत्वपूर्ण भिन्नता है। 'क्या LLMs में राजनीतिक शुद्धता है?' नामक इस अध्ययन में यह जांचा गया है कि जनसांख्यिकी कुंजी शब्द कैसे जेलब्रेक प्रयासों की सफलता की संभावना को प्रभावित करते हैं। शोध से पता चला है कि सीमांत समूह की शर्तों का उपयोग करने वाले संकेतों से प्रिविलेज्ड समूह की शर्तों के संकेतों की तुलना में अधिक संभावना होती है।

हाल ही में, मेटा, कैलिफ़ोर्निया विश्वविद्यालय बर्कले, और न्यूयॉर्क विश्वविद्यालय के वैज्ञानिकों ने "सोच पूर्वाग्रह अनुकूलन" (Thought Preference Optimization, संक्षेप में TPO) नामक एक नई तकनीक का सहयोग से विकास किया। इस तकनीक का लक्ष्य बड़े भाषा मॉडल (LLMs) के प्रदर्शन को विभिन्न कार्यों को करते समय बढ़ाना है, जिससे एआई उत्तर देने से पहले अपने प्रतिक्रिया पर अधिक विचार कर सके। शोधकर्ताओं ने कहा, "सोच" का व्यापक व्यावहारिकता होनी चाहिए। उदाहरण के लिए, रचनात्मक लेखन कार्य में।

हाल ही में, OpenAI की शोध टीम ने पाया कि जब उपयोगकर्ता ChatGPT के साथ बातचीत करते हैं, तो निर्धारित उपयोगकर्ता नाम AI की प्रतिक्रियाओं को किसी न किसी हद तक प्रभावित कर सकता है। हालांकि, इसका प्रभाव अपेक्षाकृत छोटा है, और यह मुख्य रूप से पुराने मॉडलों में दिखाई देता है, फिर भी शोध के परिणाम महत्वपूर्ण हैं। उपयोगकर्ता आमतौर पर ChatGPT को कार्यों के लिए अपने नाम प्रदान करते हैं, इसलिए नाम में निहित संस्कृति, लिंग और नस्लीय पृष्ठभूमि पूर्वाग्रह के अध्ययन का एक महत्वपूर्ण कारक बन जाती है। इस शोध में, शोधकर्ताओं ने ChatGPT का अन्वेषण किया।

हाल ही में, OpenAI की वैश्विक मामलों की उपाध्यक्ष अन्ना माकंजू ने संयुक्त राष्ट्र "भविष्य शिखर सम्मेलन" में आर्टिफिशियल इंटेलिजेंस पूर्वाग्रह के बारे में अपने विचार रखे। उन्होंने कहा कि OpenAI का o1 जैसे "अनुमान" मॉडल, एआई सिस्टम में पूर्वाग्रह को काफी हद तक कम कर सकता है। तो, o1 यह कैसे करता है? माकंजू ने बताया कि ये मॉडल उत्तरों में पूर्वाग्रह को आत्म-पहचान कर सकते हैं और "हानिकारक" उत्तर उत्पन्न न करने के नियमों का अधिक पालन कर सकते हैं। उन्होंने कहा, o1

हाल ही में, एक नए अध्ययन ने लोगों का ध्यान आकर्षित किया, जिसमें पाया गया कि चैटजीपीटी के उत्तर अंग्रेजी और प्रोटेस्टेंट देशों के लोगों के सांस्कृतिक मूल्यों को दर्शाते हैं। इस अध्ययन का मुख्य विचार यह है कि चैटजीपीटी जैसे बड़े भाषा मॉडल को प्रशिक्षित करते समय, कुछ देशों और संस्कृतियों से डेटा की बड़ी मात्रा का उपयोग किया गया, जिससे ये मॉडल सांस्कृतिक पूर्वाग्रह के साथ आउटपुट दे सकते हैं। शोध टीम में रेने एफ किजिल्सेक और उनके सहयोगी शामिल हैं, जिन्होंने ओपनएआई जीपीटी के पांच अलग-अलग संस्करणों का उपयोग किया।

भाषा मॉडल विभिन्न क्षेत्रों में व्यापक अनुप्रयोग दिखाते हैं, शिक्षा से लेकर कानूनी परामर्श, यहां तक कि चिकित्सा जोखिम की भविष्यवाणी भी। हालाँकि, जब ये मॉडल निर्णय प्रक्रिया में अधिक महत्वपूर्ण हो जाते हैं, तो वे अनजाने में मानव प्रशिक्षण डेटा में विद्यमान पूर्वाग्रह को दर्शा सकते हैं, और अल्पसंख्यक समूहों के प्रति भेदभाव को बढ़ा सकते हैं। अनुसंधान से पता चला है कि भाषा मॉडल में अप्रत्यक्ष जातिवाद है, विशेष रूप से अफ्रीकी अमेरिकी अंग्रेजी (AAE) को संभालते समय, जो हानिकारक बोली भेदभाव का प्रदर्शन करता है, जो अफ्रीकी अमेरिकियों के किसी भी ज्ञात पूर्वाग्रह से कहीं अधिक नकारात्मक है। AAE और मानक अमेरिकी अंग्रेजी की तुलना करने के लिए "मिलान छलावरण" पद्धति का उपयोग किया गया।

अमेरिका के ओक्लाहोमा सिटी पुलिस विभाग ने समय बचाने के लिए AI-आधारित चैटबॉट “Draft One” का उपयोग करके रिपोर्ट बनाने का प्रयोग किया है। यह सिस्टम Axon कंपनी द्वारा विकसित किया गया है, जो ChatGPT तकनीक पर आधारित है, और ऑडियो रिकॉर्डिंग से तेजी से रिपोर्ट बनाने में सक्षम है। समर्थकों का मानना है कि इससे दक्षता में काफी वृद्धि हो सकती है, लेकिन आलोचक संभावित त्रुटियों, पूर्वाग्रहों और स्वचालन से उत्पन्न होने वाली शक्ति के दुरुपयोग के मुद्दों पर चिंता व्यक्त कर रहे हैं। कार्यकर्ता Aurelius Francisco ने उसी कंपनी द्वारा प्रदान किए गए AI और इलेक्ट्रिक शॉक गन के उपयोग पर चिंता जताई है, जिससे स्वचालन के माध्यम से उत्पन्न पावर के दुरुपयोग का डर है।

नौकरी में भर्ती के लिए कृत्रिम बुद्धिमत्ता (AI) के उपयोग का उद्देश्य वस्तुनिष्ठता और दक्षता को बढ़ाना है, लेकिन शोध से पता चलता है कि यह पूर्वाग्रह की समस्याओं को बढ़ा सकता है। AI डेटा से सीखता है, और डेटा सेट में पूर्वाग्रह एल्गोरिदम के अन्यायपूर्ण परिणाम उत्पन्न कर सकता है। HR और AI विकसित करने वालों के बीच शिक्षा और पेशेवर भिन्नताएं प्रभावी सहयोग को बाधित करती हैं, जो पूर्वाग्रह की पहचान और कम करने की क्षमता को प्रभावित करती हैं। इस समस्या को हल करने के लिए, HR पेशेवरों के AI ज्ञान को बढ़ाने के लिए संरचित प्रशिक्षण कार्यक्रमों को लागू करने की सिफारिश की जाती है; विभिन्न समूहों का प्रतिनिधित्व सुनिश्चित करने के लिए डेटा सेट का विविधीकरण करने के लिए अंतर-संबंधित टीम सहयोग को बढ़ावा देना; दिशानिर्देश और नैतिकता का विकास करना।

काले संस्थापकों ने देखा है कि चैटजीपीटी जैसे प्रमुख बड़े भाषा मॉडल सांस्कृतिक भिन्नताओं को संभालने में स्पष्ट रूप से कमी रखते हैं। ये मॉडल अक्सर पश्चिमी सांस्कृतिक पृष्ठभूमि से जुड़ी प्रश्नों का उत्तर देते समय बहुत सामान्य होते हैं और अफ्रीकी अमेरिकी लोगों और उनकी अनूठी सांस्कृतिक परंपराओं की समझ की कमी होती है।

अनुसंधान से पता चला है कि OpenAI GPT3.5 में रिज़्यूमे की क्रमबद्धता में जातीय पूर्वाग्रह है। परीक्षण के परिणाम दर्शाते हैं कि GPT3.5 कुछ जातीय नामों की ओर अधिक झुकाव रखता है, जो भर्ती निर्णयों को प्रभावित कर सकता है। प्रयोग में यह भी पाया गया कि GPT विभिन्न पदों पर लिंग और जातीय प्रवृत्तियों को दर्शाता है। OpenAI ने जवाब दिया है कि कंपनियाँ अपनी तकनीक का उपयोग करते समय आमतौर पर पूर्वाग्रह कम करने के उपाय अपनाती हैं।

विशेषज्ञों का कहना है कि OpenAI का नवीनतम वीडियो निर्माण उपकरण Sora संभवतः गलत प्रचार और पूर्वाग्रह को बढ़ावा दे सकता है। Sora ने दालमेशियन कुत्ते, चीन के नए साल की परेड और एक पुरातत्वविद् द्वारा कुर्सी खोदने के गलत वीडियो पेश किए। विशेषज्ञों को चिंता है कि Sora इंटरनेट पर गलत जानकारी और सरकारी प्रचार को बढ़ावा देता है, जिससे असली और फर्जी सामग्री के बीच का अंतर और भी धुंधला हो जाता है। OpenAI ने Sora के दुरुपयोग को रोकने के लिए कदम उठाए हैं, लेकिन विशेषज्ञ अभी भी इसके संभावित गहरे धोखाधड़ी वीडियो क्षमताओं को लेकर चिंतित हैं।

अमेरिकी रक्षा मंत्रालय ने हाल ही में एक पुरस्कार कार्यक्रम शुरू किया है, जिसका उद्देश्य कृत्रिम बुद्धिमत्ता मॉडलों में कानूनी पूर्वाग्रह की खोज करना है। इस कार्यक्रम में प्रतिभागियों को मेटा के ओपन-सोर्स LLama-270B मॉडल से स्पष्ट पूर्वाग्रह के उदाहरण निकालने के लिए कहा गया है। इस पहल के माध्यम से, पेंटागन आशा करता है कि

शोधकर्ताओं ने नैदानिक निर्णयों में GPT-4 के जातीय और लिंग पूर्वाग्रह का मूल्यांकन किया, और पाया कि GPT-4 में स्पष्ट पूर्वाग्रह मौजूद हैं। शोध ने बड़े भाषा मॉडल के पूर्वाग्रह मूल्यांकन की आवश्यकता की पुकार लगाई। अध्ययन के परिणाम 'द लैंसेट डिजिटल हेल्थ' पत्रिका में प्रकाशित हुए।

न्यूयॉर्क विश्वविद्यालय के टैंडन इंजीनियरिंग स्कूल की शोध टीम ने पाया कि काम से संबंधित मातृत्व अंतराल असमान भर्ती निवारण का कारण बन सकते हैं। शोध टीम ने बड़े भाषा मॉडल के पूर्वाग्रहों की समीक्षा की। परिणामों ने दर्शाया कि कम से कम एक भाषा मॉडल ने मातृत्व से संबंधित विशेषताओं को रिजेक्ट प्रक्रिया में गलत तरीके से शामिल किया। यह अध्ययन दर्शाता है कि AI भर्ती के उपयोग में योग्य महिला उम्मीदवारों को गलत तरीके से बाहर किया जा सकता है।

एआई द्वारा निर्मित श्वेत चेहरे आज की वास्तविकता में 'मनुष्यों से भी अधिक वास्तविक' हो गए हैं, लेकिन अन्य जातियों के प्रति प्रदर्शित पूर्वाग्रह मौजूद है। शोध से यह पता चला है कि एल्गोरिदम प्रशिक्षण डेटा का पूर्वाग्रह एआई को अन्य जातियों को श्वेत विशेषताओं के साथ प्रस्तुत करने की ओर झुकाता है, जिससे ऑनलाइन जातीय पूर्वाग्रह और बढ़ सकता है। शोधकर्ताओं ने जनता के शिक्षण की अपील की है ताकि गलत सूचनाओं और ऑनलाइन धोखाधड़ी से बचा जा सके, और 'अतिमानवीयवाद' के संभावित मुद्दों पर जोर दिया है।

🌐 जापानी सरकार ने एआई दिशा-निर्देश स्थापित किए हैं, जिसका उद्देश्य एआई तकनीक पर अत्यधिक निर्भरता को कम करना और डेटा पूर्वाग्रह की समस्याओं से निपटना है।📜 सरकार वर्ष के अंत तक दिशा-निर्देशों को अंतिम रूप देगी, जिसमें 10 मूल सिद्धांत शामिल होंगे, ताकि यह सुनिश्चित किया जा सके कि एआई कंपनियां निष्पक्षता, पारदर्शिता और मानवाधिकारों के संरक्षण के सिद्धांतों का पालन करें।🤖 एआई डेवलपर्स, सेवा प्रदाता और उपयोगकर्ता सभी जिम्मेदारी साझा करेंगे, डेवलपर्स को डेटा की सटीकता सुनिश्चित करनी होगी और अनधिकृत पहुंच को रोकना होगा।