आज के डिजिटल युग में, बच्चों की ऑनलाइन सुरक्षा का मुद्दा越来越 महत्वपूर्ण होता जा रहा है। हाल ही में, Roblox, Discord, OpenAI और गूगल ने मिलकर एक गैर-लाभकारी संगठन लॉन्च किया है जिसका नाम ROOST (शक्तिशाली ओपन ऑनलाइन सुरक्षा उपकरण) है, जिसका उद्देश्य AI युग के लिए एक स्केलेबल और इंटरकनेक्टेड सुरक्षा बुनियादी ढांचा बनाना है। इस नए संगठन का लक्ष्य सार्वजनिक और निजी संस्थानों को ओपन-सोर्स सुरक्षा उपकरण प्रदान करना है, ताकि वे अपने प्लेटफार्मों पर सुरक्षा को मजबूत कर सकें, विशेष रूप से बच्चों की सुरक्षा पर ध्यान केंद्रित करते हुए।
छवि स्रोत टिप्पणी: चित्र AI द्वारा उत्पन्न, चित्र अधिकार सेवा प्रदाता Midjourney
ROOST की स्थापना जनरेटिव AI के तेजी से विकास के जवाब में की गई है। जैसे-जैसे ऑनलाइन वातावरण में बदलाव आता है, बच्चों का सामना जोखिमों के बढ़ने से हो रहा है, इसलिए "विश्वसनीय और सुलभ सुरक्षा बुनियादी ढांचे" की आवश्यकता और भी अधिक हो गई है। ROOST का लक्ष्य तैयार सुरक्षा उपकरण प्रदान करना है, ताकि छोटे व्यवसाय या संगठन इन उपकरणों को विकसित करने के लिए शून्य से शुरुआत न करें, बल्कि सीधे इन मुफ्त समाधानों का उपयोग कर सकें।
ROOST की योजना में, संगठन बच्चों के यौन शोषण सामग्री (CSAM) का पता लगाने, ऑडिट करने और रिपोर्ट करने से संबंधित उपकरण प्रदान करने पर ध्यान केंद्रित करेगा। यह पहल विभिन्न प्लेटफार्मों को अनुचित सामग्री की पहचान करने और उसे संभालने में मदद करेगी, ताकि बच्चों की ऑनलाइन सुरक्षा सुनिश्चित की जा सके। इसके लिए, भाग लेने वाली कंपनियां न केवल वित्तीय सहायता प्रदान करेंगी, बल्कि संबंधित तकनीकी विशेषज्ञता भी योगदान करेंगी।
बच्चों की ऑनलाइन सुरक्षा का मुद्दा हमेशा से चर्चा में रहा है, विशेष रूप से "बच्चों और किशोरों की ऑनलाइन गोपनीयता संरक्षण अधिनियम" और "बच्चों की ऑनलाइन सुरक्षा अधिनियम" के कांग्रेस में चर्चा के दौरान। हालांकि ये विधेयक सदन में मतदान में पास नहीं हो सके, भाग लेने वाली तकनीकी कंपनियां, जिसमें गूगल और OpenAI शामिल हैं, ने बच्चों के यौन शोषण सामग्री उत्पन्न करने के लिए AI तकनीक का उपयोग बंद करने का वचन दिया है।
Roblox के लिए, बच्चों की सुरक्षा का मुद्दा विशेष रूप से महत्वपूर्ण है। 2020 के आंकड़ों के अनुसार, अमेरिका में 9 से 12 वर्ष के बच्चों में से दो-तिहाई लोग Roblox का उपयोग कर रहे हैं। और इस प्लेटफॉर्म ने बच्चों की सुरक्षा के मामले में कई चुनौतियों का सामना किया है। 2024 में, "ब्लूमबर्ग बिजनेस वीकली" ने रिपोर्ट की थी कि कंपनी को "पेडोफिलिया समस्या" का सामना करना पड़ा, जिसके कारण Roblox को बच्चों के निजी संदेशों पर प्रतिबंध और नई नीतियों को लागू करने के लिए मजबूर होना पड़ा।
हालांकि ROOST का लॉन्च सभी समस्याओं का समाधान नहीं कर सकता, लेकिन यह Roblox और अन्य समान प्लेटफार्मों के लिए एक सरल प्रतिक्रिया योजना प्रदान करता है, जो AI युग में बच्चों की सुरक्षा सुनिश्चित करने के प्रयास में है।
मुख्य बिंदु:
🌐 ROOST एक गैर-लाभकारी संगठन है जिसे Roblox, OpenAI और गूगल जैसी कंपनियों ने मिलकर लॉन्च किया है, जिसका उद्देश्य बच्चों को ऑनलाइन सुरक्षा प्रदान करना है।
🔍 यह संगठन ओपन-सोर्स सुरक्षा उपकरण प्रदान करेगा, जो प्लेटफार्मों को बच्चों के यौन शोषण सामग्री (CSAM) का पता लगाने और रिपोर्ट करने में मदद करेगा।
🛡️ Roblox जैसे प्लेटफार्मों को बच्चों की सुरक्षा चुनौतियों का सामना करना पड़ रहा है, ROOST की स्थापना ने उन्हें अधिक प्रभावी समाधान प्रदान किया है।
