ऑस्ट्रेलिया के विक्टोरिया राज्य में बच्चों के संरक्षण एजेंसी ने हाल ही में एक आदेश जारी किया है, जिसमें कर्मचारियों को जनरेटिव आर्टिफिशियल इंटेलिजेंस सेवाओं का उपयोग करने से रोका गया है। यह निर्णय इसलिए लिया गया क्योंकि एक कर्मचारी ने ChatGPT का उपयोग करते हुए सुरक्षा आवेदन रिपोर्ट तैयार करते समय एक उच्च जोखिम वाले बच्चे का नाम सहित बहुत सारी व्यक्तिगत जानकारी दर्ज की। इस घटना ने विक्टोरिया राज्य सूचना आयुक्त कार्यालय (Ovic) का ध्यान आकर्षित किया, जिसने पिछले दिसंबर में रिपोर्ट प्राप्त करने के बाद जांच शुरू की।
जांच के परिणामों से पता चला कि इस कर्मचारी द्वारा प्रस्तुत रिपोर्ट एक छोटे बच्चे से संबंधित थी, जिसके माता-पिता पर यौन अपराध का आरोप लगाया गया था, हालांकि ये आरोप बच्चे से संबंधित नहीं थे। Ovic ने अपनी जांच रिपोर्ट में उल्लेख किया कि रिपोर्ट में कई जगह स्पष्ट रूप से ChatGPT द्वारा उत्पन्न भाषा थी, और इसमें बच्चों के संरक्षण दिशा-निर्देशों के अनुरूप भाषा और वाक्य संरचना नहीं थी। उदाहरण के लिए, रिपोर्ट में एक बच्चे के खिलौने को - जिसे कथित तौर पर पिता द्वारा यौन उद्देश्यों के लिए उपयोग किया गया था - को माता-पिता द्वारा "बच्चों के विकास की आवश्यकताओं के लिए उपयुक्त उम्र के उपकरण" के रूप में वर्णित किया गया, जिससे बच्चे को संभावित खतरों को काफी हद तक कम कर दिया गया।
Ovic की रिपोर्ट में यह भी कहा गया कि ChatGPT में व्यक्तिगत जानकारी डालना विभागीय जानकारी का बिना अनुमति का खुलासा है। इस कर्मचारी ने स्वीकार किया कि उसने ChatGPT का उपयोग समय बचाने और कार्य दक्षता बढ़ाने के लिए किया, लेकिन व्यक्तिगत जानकारी दर्ज करने से इनकार किया। जांच में यह भी पाया गया कि इस कर्मचारी ने 100 मामलों में ChatGPT का उपयोग किया हो सकता है, जबकि पूरे विभाग में, 2023 के जुलाई से दिसंबर तक, लगभग 900 कर्मचारियों ने ChatGPT वेबसाइट का दौरा किया, जो कुल कर्मचारियों का लगभग 13% है।
इसलिए, Ovic ने विभाग को कई निर्देश जारी किए हैं, जिसमें कई जनरेटिव आर्टिफिशियल इंटेलिजेंस वेबसाइटों के आईपी और डोमेन को ब्लॉक करना शामिल है। ChatGPT, मेटा एआई, जेमिनी और कोपाइलट सभी ब्लॉक के दायरे में हैं, और यह प्रतिबंध दो वर्षों तक जारी रहेगा। विभाग ने जांच के परिणामों को स्वीकार किया है और संबंधित निर्देशों को सक्रिय रूप से लागू करेगा, और इस कर्मचारी को अब और नहीं रखा जाएगा। Ovic भविष्य में बच्चों के संरक्षण क्षेत्र में जनरेटिव आर्टिफिशियल इंटेलिजेंस के उपयोग के लिए खुला है, लेकिन यह सुनिश्चित करने पर जोर देता है कि उच्च सुरक्षा मानकों को सुनिश्चित किया जाए।
मुख्य बिंदु:
✅ एक विक्टोरिया राज्य के बच्चों के संरक्षण कर्मचारी ने ChatGPT का उपयोग करते समय व्यक्तिगत जानकारी दर्ज की, जिसके परिणामस्वरूप एजेंसी ने जनरेटिव एआई के उपयोग पर प्रतिबंध लगा दिया।
🚫 जांच में पाया गया कि उस कर्मचारी की रिपोर्ट में बच्चों के संरक्षण मानकों के अनुरूप भाषा और गलत जानकारी कई स्थानों पर थी।
🔒 Ovic ने विभाग से कई एआई वेबसाइटों को ब्लॉक करने का अनुरोध किया है, प्रतिबंध दो वर्षों तक जारी रहेगा, जिससे बच्चों की जानकारी की सुरक्षा सुनिश्चित की जा सके।
