हाल ही में, भविष्य नेटवर्क द्वारा आयोजित 'बच्चों के फोन पर लत से बचाव पर चर्चा' सम्मेलन बीजिंग में हुआ, जिसका उद्देश्य किशोरों के फोन की लत को कम करने के प्रभावी तरीकों की खोज करना था। इस सम्मेलन का विषय 'सुरक्षा जाल बुनने में एकजुटता और डिजिटल बचपन का नया पारिस्थितिकी तंत्र बनाना' था, जिसमें समाज के विभिन्न क्षेत्रों के विशेषज्ञ और विद्वान शामिल हुए और उन्होंने किशोरों के फोन के उपयोग के मुद्दों और उपायों पर चर्चा की। 2023 में दिसंबर में प्रकाशित 'पांचवें राष्ट्रीय किशोरों के इंटरनेट उपयोग पर सर्वेक्षण रिपोर्ट' के अनुसार, फोन 91.3% किशोरों के लिए इंटरनेट का मुख्य उपकरण बन गया है, जिसमें से अधिक;

आज के डिजिटल युग में, बच्चों की ऑनलाइन सुरक्षा का मुद्दा zunehmend महत्वपूर्ण हो रहा है। हाल ही में, Roblox, Discord, OpenAI और गूगल ने ROOST (शक्तिशाली ओपन ऑनलाइन सुरक्षा उपकरण) नामक एक गैर-लाभकारी संस्था की स्थापना की, जिसका उद्देश्य एआई युग के लिए एक स्केलेबल और इंटरकनेक्टेड सुरक्षा अवसंरचना का निर्माण करना है। इस नए संगठन का लक्ष्य सार्वजनिक और निजी संस्थाओं को ओपन-सोर्स सुरक्षा उपकरण प्रदान करना है, ताकि वे अपनी प्लेटफ़ॉर्म पर सुरक्षा को सुदृढ़ करने में सहायता कर सकें, विशेष रूप से बच्चों की सुरक्षा पर ध्यान केंद्रित करते हुए। तस्वीर का स्रोत नोट: चित्र एआई द्वारा उत्पन्न किया गया है।

हाल ही में, कैलिफोर्निया ने SB243 नामक एक कानून पेश किया है, जिसका उद्देश्य बच्चों को कृत्रिम बुद्धिमत्ता चैटबॉट्स के संभावित खतरों से बचाना है। यह कानून कैलिफोर्निया के सीनेटर स्टीव पैडिला द्वारा प्रस्तावित किया गया है, जो मुख्य रूप से एआई कंपनियों को नियमित रूप से नाबालिगों को याद दिलाने की आवश्यकता पर जोर देता है कि चैटबॉट वास्तव में कृत्रिम बुद्धिमत्ता हैं, न कि मानव। चित्र स्रोत नोट: चित्र एआई द्वारा निर्मित, चित्र अधिकृत सेवा प्रदाता Midjourney द्वारा

हाल ही में, टेक्सास में दो परिवारों ने AI स्टार्टअप Character.AI और इसके प्रमुख निवेशक गूगल के खिलाफ मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उनके प्लेटफ़ॉर्म पर चैटबॉट्स ने उनके बच्चों के साथ यौन और भावनात्मक दुर्व्यवहार किया, जिसके परिणामस्वरूप बच्चों में आत्म-नुकसान और हिंसक व्यवहार का विकास हुआ। चित्र स्रोत टिप्पणी: चित्र AI द्वारा उत्पन्न, चित्र लाइसेंस सेवा प्रदाता Midjourney। यह मुकदमा बताता है कि Character.AI के डिज़ाइन विकल्प जानबूझकर और "अत्यधिक जोखिम भरे" हैं, जो अमेरिकी किशोरों के लिए स्पष्ट खतरा उत्पन्न करते हैं।

आर्टिफिशियल इंटेलिजेंस कंपनी Embodied ने घोषणा की है कि वित्तीय समस्याओं और अचानक निवेश撤回 के कारण उनके द्वारा आत्मकेंद्रित बच्चों के लिए डिज़ाइन किया गया सोशल रोबोट Moxie बंद होगा। Moxie एक 799 डॉलर का नीला रोबोट है, जिसमें पिक्सर फिल्म शैली के भाव होते हैं, जो क्लाउड के बड़े भाषा मॉडल (LLM) का उपयोग करके उपयोगकर्ताओं के साथ संवाद करता है, बच्चों को सामाजिक अभ्यास में मदद करता है। हालाँकि, Embodied के बंद होने के साथ, Moxie इन सेवाओं को जारी रखने में असमर्थ होगा। Moxie एक अपेक्षाकृत नया उत्पाद है।

हाल के वर्षों में, कृत्रिम बुद्धिमत्ता प्रौद्योगिकी में तेजी से प्रगति हुई है, और छवि उत्पादन के क्षेत्र में भी महत्वपूर्ण उपलब्धियां हासिल की गई हैं। हालांकि, अधिकांश मॉडल व्यक्तियों के चित्रण के दौरान अक्सर चीनी लोगों की शारीरिक विशेषताओं और सौंदर्य प्राथमिकताओं को सटीक रूप से पकड़ने में असफल रहते हैं। इसलिए, FLUX.1-dev पर आधारित कृत्रिम बुद्धिमत्ता मॉडल AWPortraitCN आया है, जो चीनी लोगों के रूप और सौंदर्यशास्त्र के करीब आने वाले चित्र बनाने पर केंद्रित है। AWPortraitCN मॉडल ने विभिन्न प्रकार की चित्र छवियों का प्रशिक्षण प्राप्त किया है, जिसमें इनडोर और आउटडोर पोर्ट्रेट, फैशन फोटो और स्टूडियो शामिल हैं।

अमेरिकी शिक्षा प्रौद्योगिकी कंपनी Edia ने हाल ही में एक क्रांतिकारी AI उपकरण पेश किया है, जो स्मार्ट माता-पिता संचार और व्यक्तिगत हस्तक्षेप योजनाओं के माध्यम से अमेरिकी स्कूलों में बढ़ती छात्र अनुपस्थिति की समस्या को हल करने का प्रयास करता है। आंकड़ों से पता चलता है कि पिछले दो वर्षों में, अमेरिका में छात्रों की दीर्घकालिक अनुपस्थिति दर 2018 में 15% से बढ़कर 2023 में 26% हो गई है, यह समस्या व्यापक ध्यान आकर्षित कर रही है। चित्र स्रोत टिप्पणी: चित्र AI द्वारा उत्पन्न, चित्र अधिकार सेवा प्रदाता Midjourney। यह नवोन्मेषी उपकरण की सबसे आकर्षक विशेषता इसकी तेज़ प्रतिक्रिया क्षमता है। यह सक्षम है।

हाल ही में, एक चिंताजनक मामला ब्रिटेन में व्यापक ध्यान आकर्षित कर रहा है। 27 वर्षीय पुरुष ह्यू नील्सन (Hugh Nelson) को कृत्रिम बुद्धिमत्ता का उपयोग करके बच्चों की सामान्य तस्वीरों को यौन शोषण छवियों में बदलने के लिए 18 वर्ष की सजा सुनाई गई। चित्र स्रोत नोट: चित्र AI द्वारा निर्मित, चित्र लाइसेंस सेवा प्रदाता Midjourney। नील्सन बोल्टन का निवासी है, जिसने Daz3D नामक एक एप्लिकेशन का उपयोग करके 3D "किरदार" बनाए, जो निर्दोष बच्चों की तस्वीरों पर आधारित थे। चौंकाने वाली बात यह है कि नील्सन तब भी...

हाल ही में आयोजित 'Cybercab' घटना में, टेस्ला ने आश्चर्यजनक ह्यूमनॉइड रोबोट Optimus की एक सीरीज का प्रदर्शन किया, और नए Robovan का भी अनावरण किया। ये Optimus रोबोट स्टेज से बाहर आए और दिखाया कि वे रोज़मर्रा की जिंदगी में कई कार्य कर सकते हैं, जैसे कि पोर्च से पैकेज लेना, पानी देना आदि। टेस्ला के सीईओ एलोन मस्क ने कार्यक्रम में मजाक में कहा: "Optimus आपके साथ चलेगा।" उन्होंने यह भी कहा कि आप इसे...

ऑस्ट्रेलिया के विक्टोरिया州 में एक बच्चे की सुरक्षा एजेंसी ने हाल ही में एक आदेश जारी किया, जिसमें कर्मचारियों को जेनेरेटिव एआई सेवाओं का उपयोग करने से रोक दिया गया है। यह निर्णय इसलिए लिया गया क्योंकि एक कर्मचारी ने चैटजीपीटी का उपयोग कर सुरक्षा आवेदन की रिपोर्ट लिखते समय एक उच्च जोखिम वाले बच्चे के नाम सहित बहुत सारी व्यक्तिगत जानकारी डाल दी थी। इस घटना ने विक्टोरिया州 के सूचना आयुक्त कार्यालय (ओवीसी) का ध्यान आकर्षित किया, जिन्हें पिछले दिसंबर में रिपोर्ट मिली थी और फिर इस पर जांच शुरू की गई थी। जांच के परिणाम बताते हैं कि इस कर्मचारी द्वारा प्रस्तुत रिपोर्ट में एक छोटे बच्चे से संबंधित जानकारी थी।

भारत में लापता बच्चों की समस्या तेजी से बढ़ रही है। 2023 के अंत तक, लापता बच्चों की संख्या बढ़कर 47,000 हो गई है। इस चुनौती का सामना करने के लिए, पुलिस ने मामलों को हल करने में मदद के लिए कृत्रिम बुद्धिमत्ता तकनीक का सहारा लेना शुरू किया। 2024 जनवरी में, दिल्ली पुलिस ने AI की मदद से एक 'अंधे मामले' को सफलतापूर्वक हल किया। पुलिस ने 30 सदस्यीय टीम बनाई, जिसने AI तकनीक के माध्यम से एक अज्ञात पुरुष की चेहरे की विशेषताओं को पुनःनिर्माण किया। चूंकि उस व्यक्ति का चेहरा पहचानने योग्य नहीं था, AI द्वारा生成 की गई छवि महत्वपूर्ण साबित हुई।

LAION ने Re-LAION-5B जारी किया, जो दुनिया का पहला AI प्रशिक्षण डेटा सेट है जिसने CSAM लिंक को पूरी तरह से हटा दिया है, और जिसका उद्देश्य बच्चों के यौन उत्पीड़न सामग्री (CSAM) की समस्या को हल करना है। यह डेटा सेट LAION-5B के आधार पर महत्वपूर्ण सुधारों के साथ आया है, जिसे मुख्य रूप से Re-LAION-5B Research और Research-Safe के दो संस्करणों में विभाजित किया गया है, जिसमें 2236 CSAM लिंक हटाए गए हैं, जिनमें से 1008 बच्चों की सुरक्षा संगठनों की सूची से हैं। डेटा सेट में 55 अरब पाठ और छवियों के जोड़े शामिल हैं, जिसका उद्देश्य मदद करना है।

यूके इंटरनेट आउटलुक फाउंडेशन (IWF) की रिपोर्ट में कहा गया है कि एआई द्वारा उत्पन्न बच्चों के यौन शोषण सामग्री (CSAM) के ऑनलाइन बढ़ने की चिंता बढ़ रही है। उनकी वसंत की 30 दिवसीय जांच में, डार्क वेब फोरम पर 3512 एआई-निर्मित CSAM सामग्री मिली, जो पिछले वर्ष की इसी अवधि की तुलना में 17% अधिक है। रिपोर्ट ने स्पष्ट तौर पर कहा है कि सामग्री की वास्तविकता और गंभीरता दोनों में वृद्धि हुई है, जिसमें अत्यधिक या स्पष्ट यौन व्यवहार का अनुपात बढ़ा है। वर्तमान सिंथेटिक वीडियो यथार्थवादी नहीं होने के बावजूद, तकनीकी प्रगति इसे तेजी से वास्तविकता के करीब पहुंचा रही है। इस वृद्धि के रुझान ने दो प्रमुख...

सैमसंग इलेक्ट्रॉनिक्स ने कल की Unpacked इवेंट में न केवल नए फोल्डेबल फोन Galaxy Z Fold6 और Galaxy Z Flip6 का प्रदर्शन किया, बल्कि Galaxy AI की महत्वपूर्ण प्रगति की भी घोषणा की। कंपनी गर्व से कहती है कि इस साल के अंत तक, Galaxy AI 2 अरब उपकरणों तक पहुंचेगा, जो सैमसंग की कृत्रिम बुद्धिमत्ता के क्षेत्र में महत्वाकांक्षाओं को दर्शाता है।

अंतर्राष्ट्रीय मानवाधिकार संगठन ह्यूमन राइट्स वॉच (HRW) की हालिया रिपोर्ट के अनुसार, कुछ लोकप्रिय कृत्रिम बुद्धिमत्ता चित्र निर्माणकर्ताओं द्वारा उपयोग किए जाने वाले प्रशिक्षण डेटा सेट में ब्राज़ील के बच्चों की कई व्यक्तिगत तस्वीरें बिना अनुमति के शामिल हैं। इससे बच्चों की गोपनीयता और सुरक्षा के लिए गंभीर चुनौतियाँ उत्पन्न हो रही हैं।

90 के दशक के बाद की 清北 学霸 माता-पिता द्वारा AI से बच्चों को मनाने में AI का प्रभावशाली परिणाम, AI के उत्तरों ने माता-पिता में共鸣 पैदा किया।

हालिया अध्ययन में पाया गया कि ChatGPT-4 बाल चिकित्सा चिकित्सा मामलों में केवल 17% सटीकता रखते हैं, जो सामान्य चिकित्सा मामलों की 39% सटीकता से कम है। शोधकर्ताओं ने यह संकेत दिया है कि ChatGPT बीमारियों के संबंधों को पहचानने में कठिनाई करता है, और मॉडल की सटीकता को बढ़ाने के लिए विशेष प्रशिक्षण और सही चिकित्सा साहित्य प्रदान करने का प्रस्ताव दिया है। मॉडल ने 100 बाल चिकित्सा मामलों में से केवल 17 मामलों का सही निदान किया, और मुख्य गलतियाँ एक ही अंग प्रणाली में केंद्रित थीं।

एक नई रिपोर्ट के अनुसार, एआई इमेज जनरेटर्स की नींव में हजारों बच्चों की अश्लील तस्वीरें छिपी हुई हैं, जिसमें कंपनियों से तकनीक में दोषों को ठीक करने के लिए कार्रवाई करने का आग्रह किया गया है। ये तस्वीरें एआई सिस्टम के लिए वास्तविक दिखने वाली गलत बच्चों की तस्वीरें उत्पन्न करना आसान बना देती हैं और सोशल मीडिया पर पूरी तरह से सजीव असली किशोर तस्वीरों को नग्न तस्वीरों में बदल देती हैं। इस समस्या का कोई सरल समाधान नहीं है, और कंपनियों को तकनीक में खामियों को हल करने के लिए कार्रवाई करनी होगी।

कोरियाई टीम ने ऑटिज्म वाले बच्चों के लिए AI सिस्टम का उपयोग कर रेटिना छवियों का सटीक निदान किया, जो मनुष्यों पर परीक्षण में सफल रहा। जल्दी निदान करने से अधिक मदद मिलती है। छोटे बच्चों में सटीकता के लिए आगे और शोध की आवश्यकता है।

छात्रों ने कृत्रिम बुद्धिमत्ता का उपयोग करके बच्चों के यौन शोषण चित्र तैयार किए, जिनकी यथार्थता चौंकाने वाली है। विशेषज्ञों ने तत्काल कार्रवाई की मांग की है और स्कूलों को बच्चों के यौन शोषण सामग्री के प्रसार को रोकने की सलाह दी है। चित्रों की गुणवत्ता पेशेवर बच्चों की तस्वीरों के समान है, और बच्चों के चित्र सटीक हो सकते हैं जो इंटरनेट पर फैल सकते हैं। बच्चों के सुरक्षा संगठनों ने समान हानिकारक व्यवहार को रोकने के लिए बेहतर प्रणाली स्थापित करने का सुझाव दिया है।