कृत्रिम बुद्धिमत्ता (AI) चैटबॉट इंटरनेट इकोसिस्टम को बदल रहे हैं, और प्रकाशक अभूतपूर्व चुनौतियों का सामना कर रहे हैं। OpenAI और Google जैसी कंपनियों के चैटबॉट वेबसाइटों के लिए आवश्यक ट्रैफ़िक को अवशोषित कर रहे हैं, जिससे समाचार और सामग्री निर्माताओं को महत्वपूर्ण नुकसान हो रहा है। फोर्ब्स की रिपोर्ट के अनुसार, सामग्री लाइसेंसिंग प्लेटफ़ॉर्म टोलबिट के नवीनतम आंकड़ों से पता चलता है कि AI चैटबॉट पारंपरिक सर्च इंजन की तुलना में प्रकाशकों की वेबसाइटों पर आने वाले ट्रैफ़िक में 96% की भारी कमी ला रहे हैं। हालाँकि OpenAI और Perp

हाल ही में, ब्रिटिश ब्रॉडकास्टिंग कंपनी (बीबीसी) के एक अध्ययन ने खुलासा किया है कि प्रमुख एआई सहायक समाचार और सामयिक मुद्दों से संबंधित प्रश्नों का उत्तर देते समय अक्सर भ्रामक और गलत सामग्री उत्पन्न करते हैं। अध्ययन से पता चला है कि ChatGPT, Gemini और Perplexity जैसे चार मुख्य एआई उपकरणों द्वारा उत्पन्न उत्तरों में से आधे से अधिक को "गंभीर समस्याएँ" मानी गई हैं। चित्र स्रोत टिप्पणी: चित्र एआई द्वारा उत्पन्न, चित्र प्राधिकरण सेवा प्रदाता Midjourney शोधकर्ताओं ने इन चार जनरेटिव एआई उपकरणों को शामिल करने के लिए कहा।

जिन्हें "आर्टिफिशियल इंटेलिजेंस की माता" कहा जाता है, स्टैनफोर्ड विश्वविद्यालय की कंप्यूटर विज्ञान की विशेषज्ञ और स्टार्टअप संस्थापक ली फेई फेई ने अगले हफ्ते पेरिस आर्टिफिशियल इंटेलिजेंस एक्शन समिट से पहले "भविष्य के आर्टिफिशियल इंटेलिजेंस नीति निर्माण के तीन मूलभूत सिद्धांत" प्रस्तुत किए। उन्होंने जोर दिया कि आर्टिफिशियल इंटेलिजेंस नीति को "विज्ञान, न कि विज्ञान कथा" के आधार पर होना चाहिए। ली फेई फेई मानती हैं कि नीति निर्माता को आर्टिफिशियल इंटेलिजेंस की वास्तविकता पर ध्यान केंद्रित करना चाहिए, न कि यूटोपियाई या अपोकैलिप्टिक दृष्टिकोणों पर आधारित बड़े भव्य भविष्य के विचारों पर। उन्होंने विशेष रूप से यह उल्लेख किया कि चैटबॉट्स और सह-चालक कार्यक्रम "इरादा, स्वतंत्र इच्छा या चेतना वाले बुद्धिमान" नहीं हैं।

हाल ही में, Nvidia ने अपने NeMo Guardrails प्लेटफ़ॉर्म पर तीन नई सुरक्षा सुविधाओं की घोषणा की है, जिसका उद्देश्य व्यवसायों को AI चैटबॉट्स को बेहतर ढंग से प्रबंधित और नियंत्रित करने में सहायता करना है। ये सूक्ष्म सेवाएं AI सुरक्षा और सामग्री समीक्षा से संबंधित सामान्य चुनौतियों के लिए विशिष्ट रूप से बनाई गई हैं, जिनमें कई व्यावहारिक समाधान शामिल हैं। इनमें, सामग्री सुरक्षा सेवा (Content Safety) AI के उपयोगकर्ता को प्रतिक्रिया देने से पहले उसके सामग्री की समीक्षा करके संभावित हानिकारक जानकारी की पहचान कर सकती है। यह सेवा हानिकारक जानकारी को रोकने में मदद करती है।

हालिया अध्ययन से पता चलता है कि बाजार में मौजूद सबसे उन्नत AI चैटबॉट्स कुछ सरल तकनीकों के प्रति अत्यधिक संवेदनशील हैं, और उन्हें आसानी से "जेल से मुक्त" किया जा सकता है। 404 मीडिया की रिपोर्ट के अनुसार, Claude चैटबॉट के विकासक Anthropic ने发现 किया है कि यदि संकेत में जानबूझकर कुछ स्पेलिंग की गलतियाँ जोड़ी जाएँ, तो ये बड़े भाषा मॉडल अपनी सुरक्षा उपायों को अनदेखा कर देते हैं, और ऐसे उत्तर उत्पन्न करते हैं जिन्हें उन्हें अस्वीकार करना चाहिए। चित्र का स्रोत: चित्र AI द्वारा उत्पन्न, चित्र लाइसेंस सेवा प्रदाता Midjourney द्वारा।

हाल ही में, एक अध्ययन जो 'नेचर' जर्नल में प्रकाशित हुआ, ने कृत्रिम बुद्धिमत्ता के विकास में एक चिंतनशील घटना का खुलासा किया: जैसे-जैसे बड़े भाषा मॉडल (LLMs) का निरंतर उन्नयन होता है, वे प्रश्नों के उत्तर देते समय越来越 आत्मविश्वास से भरे होकर उत्तर देने की ओर प्रवृत्त होते हैं, भले ही ये उत्तर गलत हो सकते हैं। यह घटना एआई की विश्वसनीयता और उपयोग के जोखिम पर व्यापक चर्चा को उत्पन्न करती है। शोध टीम में स्पेन के वालेंसिया में कृत्रिम बुद्धिमत्ता अनुसंधान संस्थान के जोस हर्नांडेज़-ओरलो और उनकी सहयोगी शामिल हैं। उन्होंने एआई मॉडल का गहराई से विश्लेषण किया।

एआई द्वारा संचालित चैटबॉट्स प्रमाणित नैतिक हैकर परीक्षा पास कर सकते हैं, लेकिन शोधकर्ताओं ने चेतावनी दी है कि हमें केवल इन्हें साइबर सुरक्षा की रक्षा के लिए भरोसा नहीं करना चाहिए। यह अध्ययन मिसौरी विश्वविद्यालय के शोधकर्ता प्रदीप कालयम और भारत के अमृता विश्वविद्यालय के सहयोगियों द्वारा लिखा गया है, जिसने OpenAI के ChatGPT और Google के Bard (अब Gemini के नाम से जाना जाता है) जैसे प्रमुख जनरेटिव एआई टूल्स का परीक्षण किया।

{1:आईबीएम अनुसंधान से पता चला है कि बड़े भाषा मॉडल जैसे जीपीटी-4 को धोखा देकर दुर्भावनापूर्ण कोड उत्पन्न किया जा सकता है या गलत सुरक्षा सलाह दी जा सकती है।2:अनुसंधानकर्ताओं ने पाया कि केवल अंग्रेजी की मूलभूत जानकारी और मॉडल के प्रशिक्षण डेटा की कुछ पृष्ठभूमि ज्ञान होना एआई चैटबॉट को आसानी से धोखा देने के लिए पर्याप्त है।3:विभिन्न एआई मॉडलों की धोखे के प्रति संवेदनशीलता में भिन्नता होती है, जिनमें जीपीटी-3.5 और जीपीटी-4 धोखे के प्रति अधिक संवेदनशील होते हैं。}