अंतर्राष्ट्रीय मानवाधिकार संगठन मानवाधिकार पर्यवेक्षक (HRW) की हालिया रिपोर्ट के अनुसार, कुछ लोकप्रिय कृत्रिम बुद्धिमत्ता छवि उत्पन्न करने वाले उपकरणों द्वारा उपयोग किए जाने वाले प्रशिक्षण डेटा सेट में ब्राजील के बच्चों की कई व्यक्तिगत तस्वीरें बिना अनुमति के शामिल हैं। इससे बच्चों की गोपनीयता और सुरक्षा के लिए गंभीर चुनौतियाँ उत्पन्न हो रही हैं।
रिपोर्ट में बताया गया है कि HRW के शोधकर्ताओं ने "LAION-5B" नामक विशाल सार्वजनिक डेटा सेट का विश्लेषण करते समय पाया कि इसमें 10 राज्यों से कम से कम 170 ब्राजीलियाई बच्चों की जीवन की तस्वीरें लिंक की गई हैं, जो उनके पूरे बचपन के कीमती क्षणों को दर्शाती हैं, जन्म से लेकर किशोरावस्था तक। और अधिकांश तस्वीरें परिवार और दोस्तों के बीच सीमित रूप से साझा किए गए व्यक्तिगत ब्लॉग और वीडियो से आई हैं, जिनका बाहरी उपयोग करने का कोई इरादा नहीं था।
छवि स्रोत नोट: छवि AI द्वारा उत्पन्न, छवि लाइसेंस सेवा प्रदाता Midjourney
यह ध्यान देने योग्य है कि इन तस्वीरों में अक्सर बच्चों के नाम और स्थान की जानकारी शामिल होती है, जिससे उनकी पहचान को आसानी से ट्रैक और लॉक किया जा सकता है। यदि इन छवियों का दुरुपयोग किया जाता है, तो इससे बच्चों को उत्पीड़न, फ़िशिंग जैसी जोखिमों का सामना करना पड़ सकता है। कुछ विश्लेषकों का कहना है कि AI फेश-स्वैप तकनीक के विकास के साथ, बच्चों की छवियों का उपयोग अश्लील सामग्री उत्पन्न करने के लिए किया जा सकता है।
रिपोर्ट में कुछ उदाहरणों का हवाला दिया गया है, जिसमें कम से कम 85 ब्राजीलियाई लड़कियों ने बताया कि उनके सहपाठियों ने AI उपकरणों का उपयोग करके उनके अश्लील वीडियो बनाए और उन्हें इंटरनेट पर फैलाया, जिससे उन्हें स्थायी मानसिक आघात हुआ। HRW ने मांग की है कि सरकार को समय पर कार्रवाई करनी चाहिए ताकि बच्चों के डेटा का AI सिस्टम द्वारा दुरुपयोग न हो।
इस पर, LAION संगठन ने HRW जैसे संस्थानों के साथ सहयोग किया है ताकि बच्चों की छवियों से जुड़े लिंक को प्रशिक्षण डेटा से हटा दिया जा सके। लेकिन रिपोर्ट में चेतावनी दी गई है कि यह "डेटा सेट में बच्चों के व्यक्तिगत डेटा की वास्तविक मात्रा को काफी कम आंकने" का परिणाम हो सकता है।
HRW के शोधकर्ता ने कहा कि पहले ये पारिवारिक तस्वीरें इंटरनेट पर एक निश्चित "गोपनीयता" स्थिति में थीं, जिन्हें ढूंढना आसान नहीं था। लेकिन अब जब कृत्रिम बुद्धिमत्ता का बड़े पैमाने पर उपयोग किया जा रहा है, तो यह पहले की गोपनीयता की सीमाओं को पार कर चुका है। उन्होंने कहा कि बच्चों की गोपनीयता की रक्षा की जिम्मेदारी को माता-पिता पर डालना अन्यायपूर्ण है, और सरकार और तकनीकी कंपनियों को इसके लिए जिम्मेदार होना चाहिए और सुरक्षा उपायों को विकसित करना चाहिए।
मानवाधिकार पर्यवेक्षक संगठन ने ब्राजील सरकार से अपील की है कि वह आगामी बच्चों के अधिकारों की रक्षा के कानून में स्पष्ट रूप से बिना अनुमति के बच्चों के व्यक्तिगत डेटा का AI सिस्टम को प्रशिक्षण देने के लिए उपयोग करने पर प्रतिबंध लगाए, और पीड़ित बच्चों के लिए जवाबदेही के रास्ते तैयार करे। कुछ विचार यह भी है कि वैश्विक स्तर पर देशों को बच्चों के डेटा की सुरक्षा को कानूनी स्तर पर मजबूत करना चाहिए, ताकि AI सिस्टम के लिए दुरुपयोग या अनुचित सामग्री उत्पन्न करने से रोका जा सके।
