हाल ही में, अमेरिका के न्यू मैक्सिको राज्य की पुलिस ने एक विवाद को जन्म दिया है, जब उन्होंने एक जांच में 14 वर्षीय AI-जनित आभासी लड़की की तस्वीर का उपयोग किया ताकि यौन अपराध के संदिग्धों को फंसाया जा सके। यह जांच उस पृष्ठभूमि में है, जहां अभियोजक ने सोशल मीडिया एप्लिकेशन स्नैपचैट के खिलाफ मुकदमा दायर किया, जिसमें आरोप लगाया गया कि इस प्लेटफॉर्म ने बच्चों को यौन शोषण और नुकसान से बचाने में विफल रहा।
छवि स्रोत नोट: छवि AI द्वारा उत्पन्न, छवि लाइसेंस सेवा प्रदाता Midjourney
मुकदमे के दस्तावेजों के अनुसार, पुलिस ने स्नैपचैट पर "हीदर" (Heather) नाम से एक नकली खाता बनाया, जिसका उद्देश्य संभावित यौन अपराधियों के साथ संपर्क करना था।
इस प्रक्रिया में, पुलिस ने कुछ स्पष्ट यौन अपराधियों के साथ बातचीत की, जिनके उपयोगकर्ता नाम वास्तव में डरावने थे, जैसे "child.rape" और "pedo_lover10"। पहले, पुलिस ऐसे ही मामलों में आमतौर पर युवा महिलाओं की तस्वीरों (अक्सर पुलिस की तस्वीरें) का उपयोग करती थी ताकि इन अपराधियों को धोखा दिया जा सके, लेकिन इस बार AI-जनित आभासी लड़की की छवि का चयन किया गया।
जांच के परिणाम बताते हैं कि इस तरीके ने अप्रत्याशित सफलता हासिल की, कई अपराधियों ने वास्तव में जाल में फंस गए, वे "हीदर" को कुछ स्पष्ट चित्र या बच्चों के यौन शोषण सामग्री साझा करने के लिए प्रेरित करने का प्रयास कर रहे थे। हालांकि यह जांच स्नैपचैट के एल्गोरिदम के पीछे के अंधेरे सच को उजागर करती है, पुलिस द्वारा AI-जनित छवियों के उपयोग ने नए नैतिक प्रश्न भी उठाए हैं।
कानूनी विशेषज्ञों का कहना है कि यदि सरकार गहराई से धोखाधड़ी वाली बच्चों के यौन शोषण सामग्री (CSAM) का निर्माण करती है, तो यह निश्चित रूप से चिंताजनक है, क्योंकि ये छवियाँ स्वयं अवैध हैं, और समाज और अधिक बच्चों के यौन शोषण सामग्री के प्रसार को नहीं देखना चाहता।
इसके अलावा, AI द्वारा उत्पन्न आभासी बच्चों की छवियों की प्रक्रिया में प्रशिक्षण डेटा सेट का मुद्दा भी शामिल है। गलत बच्चों की छवियों को उत्पन्न करने के लिए, AI मॉडल को असली बच्चों की तस्वीरों का उपयोग करके प्रशिक्षित किया जाना चाहिए। यह सवाल उठाता है कि क्या बच्चों को वास्तव में इस पर पूरी सहमति देने की अनुमति है, विशेष रूप से जब संभावित यौन संकेतों वाली छवियाँ उत्पन्न की जा रही हों। यह स्थिति निश्चित रूप से कानून और नैतिकता की जटिलता को बढ़ाती है।
पुलिस द्वारा AI-जनित आभासी लड़की का उपयोग कर फंसाने का यह तरीका अपराधियों को पकड़ने के साथ-साथ नैतिकता और कानून पर कई चर्चाएँ भी उत्पन्न करता है। क्या यह बच्चों की सुरक्षा का सर्वोत्तम तरीका है, यह समाज के सभी क्षेत्रों के लिए विचारणीय है।
मुख्य बिंदु:
1️⃣ न्यू मैक्सिको पुलिस ने यौन अपराधियों को फंसाने के लिए AI-जनित आभासी लड़की की तस्वीर का उपयोग किया।
2️⃣ इस तरीके ने संदिग्धों को पकड़ने के साथ-साथ नैतिकता और कानून के नए प्रश्न उठाए।
3️⃣ AI द्वारा उत्पन्न बच्चों की छवियाँ असली बच्चों की तस्वीरों पर निर्भर करती हैं, जो सहमति और गोपनीयता के मुद्दों से संबंधित हैं।
