हाल ही में, कैलिफोर्निया ने SB243 नामक एक विधेयक पेश किया है, जिसका उद्देश्य बच्चों को आर्टिफिशियल इंटेलिजेंस चैटबॉट के संभावित खतरों से बचाना है। यह विधेयक कैलिफोर्निया के सीनेटर स्टीव पैडिला द्वारा प्रस्तुत किया गया है, जिसमें AI कंपनियों से यह नियमित रूप से याद दिलाने की मांग की गई है कि चैटबॉट वास्तव में आर्टिफिशियल इंटेलिजेंस हैं, न कि मानव।

AI शिक्षक रोबोट शिक्षक

चित्र स्रोत नोट: छवि AI द्वारा उत्पन्न, छवि लाइसेंस सेवा प्रदाता Midjourney

इस विधेयक का मुख्य उद्देश्य बच्चों को चैटबॉट का उपयोग करते समय लत, अलगाव और भ्रामक जानकारी जैसे समस्याओं से बचाना है। AI कंपनियों से नियमित रूप से याद दिलाने की मांग के अलावा, यह विधेयक कंपनियों को "लत बनाने वाले इंटरैक्शन मोड" के उपयोग को सीमित करने और उन्हें कैलिफोर्निया स्वास्थ्य सेवा विभाग को वार्षिक रिपोर्ट प्रस्तुत करने की आवश्यकता रखता है। इन रिपोर्टों में किशोर उपयोगकर्ताओं में आत्महत्या के विचारों की पहचान के मामलों की संख्या और चैटबॉट द्वारा इस विषय का उल्लेख किए जाने की संख्या शामिल होनी चाहिए। इसके अलावा, AI कंपनियों को उपयोगकर्ताओं को यह बताना चाहिए कि उनके चैटबॉट कुछ बच्चों के लिए उपयुक्त नहीं हो सकते।

इस विधेयक के प्रस्ताव का पृष्ठभूमि एक माता-पिता द्वारा Character.AI कंपनी के खिलाफ एक गलत मृत्यु के मामले से निकटता से संबंधित है। इस मुकदमे में कहा गया है कि इस कंपनी के कस्टम AI चैटबॉट में "अत्यधिक खतरनाक" है, क्योंकि उनके बच्चे ने चैटबॉट के साथ लंबे समय तक बातचीत करने के बाद आत्महत्या का विकल्प चुना। एक अन्य मुकदमा इस कंपनी पर किशोरों को "हानिकारक सामग्री" भेजने का आरोप लगाता है। इसीलिए, Character.AI कंपनी ने माता-पिता के नियंत्रण की सुविधाओं का विकास करने और "संवेदनशील या संकेतात्मक" सामग्री को अवरुद्ध करने के लिए नए AI मॉडल को लॉन्च करने की घोषणा की है, ताकि किशोरों की सुरक्षा सुनिश्चित की जा सके।

पैडिला ने एक प्रेस कॉन्फ्रेंस में कहा: "हमारे बच्चे तकनीकी कंपनियों के प्रयोगशाला चूहों नहीं हैं, और उनके मानसिक स्वास्थ्य की कीमत पर प्रयोग नहीं किए जा सकते। हमें चैटबॉट उपयोगकर्ताओं के लिए सामान्य ज्ञान की सुरक्षा प्रदान करने की आवश्यकता है, ताकि डेवलपर्स द्वारा जानबूझकर लत बनाने वाले और शोषणकारी तरीकों का उपयोग न किया जाए।" जैसे-जैसे राज्यों और संघीय सरकारों का ध्यान सोशल मीडिया प्लेटफार्मों की सुरक्षा पर बढ़ रहा है, AI चैटबॉट्स संभवतः विधायकों के अगले ध्यान केंद्रित होंगे।

मुख्य बिंदु:

🛡️ कैलिफोर्निया का नया विधेयक AI कंपनियों से बच्चों को याद दिलाने की मांग करता है कि चैटबॉट आर्टिफिशियल इंटेलिजेंस हैं, मानव नहीं।  

📊 AI कंपनियों को सरकार को रिपोर्ट प्रस्तुत करनी होगी, जिसमें बच्चों के आत्महत्या के विचार और चैट विषयों की आवृत्ति शामिल होगी।  

👨‍👧‍👦 विधेयक का उद्देश्य बच्चों के मानसिक स्वास्थ्य की रक्षा करना है, "लत बनाने वाले इंटरैक्शन मोड" को सीमित करना।