हाल ही में, इंटरनेट वॉच फाउंडेशन (IWF) ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा उत्पन्न बाल यौन शोषण चित्र (CSAM) खुले इंटरनेट पर तेजी से बढ़ रहे हैं और एक 'संकट बिंदु' पर पहुँच गए हैं। इस सुरक्षा पर्यवेक्षण एजेंसी ने कहा कि पिछले छह महीनों में, उन्होंने एआई द्वारा बनाए गए अवैध सामग्री की मात्रा पिछले वर्ष के कुल से अधिक पाई। चित्र स्रोत नोट: चित्र एआई द्वारा उत्पन्न, चित्र लाइसेंस सेवा प्रदाता मिडजर्नी। IWF के अस्थायी सीईओ डेरिक रे हील (Derek R)

इंटरनेट ऑब्जर्वेटरी फाउंडेशन (IWF) ने बाल यौन शोषण चित्रों की समस्या के बढ़ने की चेतावनी दी है। रिपोर्ट में सरकार और तकनीकी प्रदाताओं से गहरी नकली तस्वीरें उत्पन्न करने वाली कृत्रिम बुद्धिमत्ता को जल्दी नियंत्रित करने का आह्वान किया गया है। उत्पन्न करने वाली कृत्रिम बुद्धिमत्ता प्रणालियाँ आभासी बच्चों की गहरी नकल कर सकती हैं, संभावित पीड़ितों की संख्या को बढ़ा सकती हैं। कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न दुरुपयोग के खिलाफ कानून को सख्त करने की आवश्यकता है, विशेष रूप से यूरोपीय संघ के लिए सुझाव दिए गए हैं।

ऑस्ट्रेलिया के नए कानूनों में तकनीकी दिग्गजों को AI द्वारा उत्पन्न बाल यौन शोषण छवियों को हटाने की आवश्यकता है, जो तकनीकी कंपनियों से AI उपकरणों की नियमित समीक्षा और सुधार करने की मांग करता है, जिसका उद्देश्य उन समस्याओं का सामना करना है जो कृत्रिम बुद्धिमत्ता उपकरण उत्पन्न कर सकते हैं। इलेक्ट्रॉनिक सुरक्षा आयुक्त ने तकनीकी कंपनियों से आग्रह किया है कि वे अपने उत्पादों से हो सकने वाले खतरों को कम करें और खोज इंजनों को बाल यौन शोषण सामग्री को हटाने और गहरे फर्जी चित्रों के उत्पादन को रोकने की आवश्यकता है।