जनरेटिव AI तकनीक के दुरुपयोग से उत्पन्न हुए डीपफेक अश्लीलता के मुद्दे का सामना करते हुए, माइक्रोसॉफ्ट ने हाल ही में महत्वपूर्ण कार्रवाई की है। कंपनी ने पीड़ितों को उपकरण प्रदान करने के लिए प्रतिशोध अश्लीलता संगठन StopNCII के साथ सहयोग की घोषणा की है, ताकि वे बिंग सर्च इंजन पर इन परेशान करने वाले कृत्रिम नग्न चित्रों को हटाने में मदद कर सकें।
विशेष रूप से, माइक्रोसॉफ्ट पीड़ितों को उनके उपकरणों पर इन चित्रों के डिजिटल फिंगरप्रिंट या "हैश वैल्यू" बनाने में सहायता करेगा। StopNCII के सहयोगी इन फिंगरप्रिंट का उपयोग करके विभिन्न प्लेटफार्मों पर संबंधित चित्रों को पूरी तरह से हटा देंगे, जिसमें फेसबुक, इंस्टाग्राम, बिंग आदि शामिल हैं।
चित्र स्रोत नोट: चित्र AI द्वारा उत्पन्न, चित्र अधिकार सेवा प्रदाता Midjourney
यह एक महत्वपूर्ण कदम है। माइक्रोसॉफ्ट ने पहले इस प्रकार के चित्रों की सीधे रिपोर्ट करने का एक चैनल प्रदान किया था, लेकिन इसका प्रभाव संतोषजनक नहीं था। जैसा कि कंपनी ने अपने ब्लॉग में कहा, केवल उपयोगकर्ताओं की रिपोर्ट पर भरोसा करना चित्रों के खोज इंजन के माध्यम से व्यापक पहुंच के जोखिम का सामना करने के लिए पर्याप्त नहीं है।
यह ध्यान देने योग्य है कि गूगल सर्च इंजन की प्रक्रिया अभी भी मजबूत करने की आवश्यकता प्रतीत होती है। मीडिया रिपोर्टों के अनुसार, गूगल ने अभी तक StopNCII के साथ सहयोग नहीं किया है, जबकि इसके उपयोगकर्ताओं ने लंबे समय से इस समस्या की गंभीरता को उजागर किया है।
जनरेटिव AI द्वारा उत्पन्न डीपफेक अश्लीलता का मुद्दा वास्तव में चिंता का विषय है। वर्तमान में, अमेरिका में इस प्रकार के व्यवहार के लिए कोई विशेष संघीय कानून नहीं है, केवल विभिन्न राज्यों और स्थानीय नियमों पर निर्भर रहना पड़ता है। हालांकि, सैन फ्रांसिस्को के अभियोजक जैसे द्वारा दायर मुकदमे का प्रयास, शायद अधिक मजबूत कानून बनाने के लिए आधार तैयार कर सकता है।
