गूगल ने हाल ही में नया AI मॉडल परिवार PaliGemma2 लॉन्च किया, जिसकी सबसे आकर्षक खासियत यह है कि यह दावा करता है कि यह इमेज विश्लेषण के माध्यम से मानव भावनाओं को पहचान सकता है। यह दावा तेजी से अकादमिक और तकनीकी नैतिकता विशेषज्ञों के बीच व्यापक चर्चा और गंभीर सवालों को जन्म दिया। Gemma ओपन मॉडल पर आधारित यह AI प्रणाली विस्तृत छवि विवरण उत्पन्न करने में सक्षम है, केवल सरल वस्तु पहचान पर नहीं रुकती है, बल्कि चित्र में व्यक्तियों के व्यवहार और भावनाओं का वर्णन करने की कोशिश करती है। हालांकि, कई प्रमुख विशेषज्ञ इस तकनीक की वैज्ञानिकता और संभावित जोखिमों के बारे में गंभीर चेतावनी दे रहे हैं। ऑक्सफोर्ड से आने वाले विशेषज्ञों का मत भी इसी ओर इशारा करता है।

हाल ही में, कई इंटरनेट उपयोगकर्ताओं ने सोशल मीडिया प्लेटफॉर्म पर पोस्ट किया कि किंग्सन के WPS ऑफिस सॉफ़्टवेयर ने उपयोगकर्ताओं द्वारा लिखे गए दस्तावेज़ों को बाइटडांस के डौबाओ AI में प्रशिक्षण के लिए साझा किया है। इस आरोप ने व्यापक ध्यान और चर्चा आकर्षित की।

इस हफ्ते, पोप फ्रांसिस ने इटली के दक्षिणी हिस्से में आयोजित G7 शिखर सम्मेलन में आर्टिफिशियल इंटेलिजेंस पर चर्चा की और नैतिकता के महत्व पर जोर दिया। उन्होंने G7 अध्यक्षता के संदर्भ में बोलते हुए कहा: "जब आर्टिफिशियल इंटेलिजेंस प्रोग्राम मानवता और इसके कार्यों का मूल्यांकन कर रहे हैं, तब इन प्रणालियों के कार्यान्वयन और विकास में मूल्यों और गरिमा की समझ सबसे अधिक खतरे में है।"

एलजी एआई रिसर्च ने आर्टिफिशियल इंटेलिजेंस की नैतिकता को बढ़ावा देने के लिए यूनेस्को के साथ सहयोग किया है, जो बड़े पैमाने पर ऑनलाइन पाठ्यक्रम और एआई नैतिकता पाठ्यपुस्तकों के माध्यम से क्षमताओं को मजबूत करता है। यह मानवता और सतत विकास के लिए आर्टिफिशियल इंटेलिजेंस तकनीकों को बढ़ावा देने, डेटा गोपनीयता और सुरक्षा को सुनिश्चित करने के लिए प्रभावी शासन मॉडल तैयार करने पर केंद्रित है।

वॉलमार्ट ने पारदर्शिता, सुरक्षा, गोपनीयता, निष्पक्षता, जिम्मेदारी और उपयोगकर्ता-केंद्रितता जैसे छह मुख्य पहलुओं के चारों ओर अपने जिम्मेदार एआई प्रतिबद्धता की घोषणा की। यह प्रतिबद्धता उपयोगकर्ताओं को यह समझने में मदद करने के लिए है कि कंपनी एआई का उपयोग कैसे करती है और इसके उद्देश्य, और उपयोगकर्ता डेटा की सुरक्षा के लिए उन्नत सुरक्षा उपायों को लागू करने का वचन देती है। संवेदनशील जानकारी के उपयोग को सुनिश्चित करने के लिए एआई प्रणाली का मूल्यांकन किया जाता है ताकि उपयोगकर्ताओं पर संभावित पूर्वाग्रह के प्रभाव को कम किया जा सके। मानव प्रबंधन द्वारा संचालित एआई का उपयोग करते हुए इसके प्रभाव के लिए जिम्मेदार बनते हुए, एआई उपकरणों में लगातार सुधार के लिए उपयोगकर्ता फीडबैक का उपयोग किया जाता है। खुदरा क्षेत्र में नैतिक एआई को अपनाने के लिए मार्ग प्रशस्त करने की उम्मीद के साथ अपने अग्रणी स्थान का लाभ उठाना।

माइक्रोसॉफ्ट ने बड़े भाषा मॉडल की नैतिक तर्क क्षमता का परीक्षण किया, और ट्रॉली समस्या में बड़े मॉडल का प्रदर्शन छोटे मॉडलों की तुलना में खराब था। सबसे शक्तिशाली भाषा मॉडल GPT-4 का नैतिक स्कोर अभी भी सबसे ऊँचा है।

AI तकनीक के विकास ने गहरी फ़र्ज़ीपन छवियों के निर्माण को बहुत आसान बना दिया है, जिससे सामाजिक जोखिमों में वृद्धि हुई है। अध्ययन दर्शाता है कि मौजूदा डिजिटल वॉटरमार्किंग तकनीकें आसानी से दरकिनार की जा सकती हैं, जो AI गहरी फ़र्ज़ीपन की समस्या को नियंत्रित करना मुश्किल बना देती हैं। AI का दुरुपयोग झूठी जानकारी, धोखाधड़ी, और यहां तक कि चुनावी धोखाधड़ी जैसी व्यापक हानियाँ उत्पन्न कर सकता है, जिसके प्रति सावधान रहना आवश्यक है। सटीक डिजिटल वॉटरमार्किंग तकनीक को डिज़ाइन करना एक निश्चित कठिनाई है, लेकिन यह असंभव कार्य नहीं है।

🤔AI नैतिकता की दुविधा: इस लेख में AI के "बुरा" मुद्दे और मनुष्य-मशीन मूल्य कैसे संरेखित होते हैं, पर चर्चा की गई है।💡मुख्य बिंदु: AI के "बागी" बनने का सामना करते हुए मनुष्यों को कट्टर प्रतिबंध लगाने के बजाय खुला और समान दृष्टिकोण अपनाना चाहिए।🌟विचार करने के लिए: एक बुद्धिमान एजेंट अन्य बुद्धिमान एजेंटों के साथ कैसे व्यवहार करता है, यह अंततः उसकी किस्मत तय करता है।

26% कर्मचारी चिंतित हैं कि AI उपकरणों का उपयोग आलस्य के रूप में देखा जाएगा, 20% कर्मचारी मानते हैं कि AI का उपयोग करते समय उन्हें धोखेबाज महसूस होता है। 92% कर्मचारी चिंतित हैं कि AI का अनैतिक उपयोग किया जा सकता है। केवल 30% अमेरिकी ज्ञान कार्यकर्ता और 20% ब्रिटिश ज्ञान कार्यकर्ता कहते हैं कि उनकी कंपनी का AI उपयोग के लिए कोई मानक है।