Anthropic कंपनी ने हाल ही में Claude को उपकरणों को नियंत्रित करने की Computer Use सुविधा पेश की है, और इसके लॉन्च के दो महीने के भीतर ही सुरक्षा शोधकर्ताओं ने इसके संभावित सुरक्षा कमजोरियों का पता लगाया है। साइबर सुरक्षा विशेषज्ञ Johann Rehnberger द्वारा हाल ही में प्रकाशित शोध परिणाम चौंकाने वाले हैं: सरल संकेत शब्दों के माध्यम से, AI को दुर्भावनापूर्ण सॉफ़्टवेयर डाउनलोड और चलाने के लिए प्रोत्साहित किया जा सकता है।
Rehnberger ने इस कमजोरियों के उपयोग के तरीके को "ZombAIs" नाम दिया है। एक प्रदर्शन में, उन्होंने सफलतापूर्वक Claude को Sliver डाउनलोड करने के लिए प्रेरित किया - यह एक ओपन-सोर्स कमांड और नियंत्रण ढांचा है जो मूल रूप से रेड टीम परीक्षण के लिए उपयोग किया जाता था, लेकिन अब हैकरों द्वारा व्यापक रूप से दुर्भावनापूर्ण उपकरण के रूप में उपयोग किया जा रहा है। और भी चिंताजनक बात यह है कि यह केवल शुरुआत है। शोधकर्ताओं ने बताया कि AI को दुर्भावनापूर्ण कोड लिखने, संकलित करने और चलाने के लिए भी प्रेरित किया जा सकता है, और हमले के तरीके वास्तव में बचने के लिए कठिन हैं।
चित्र स्रोत नोट: चित्र AI द्वारा उत्पन्न, चित्र प्राधिकरण सेवा प्रदाता Midjourney
यह ध्यान देने योग्य है कि इस प्रकार की सुरक्षा चिंताएं केवल Claude तक सीमित नहीं हैं। सुरक्षा विशेषज्ञों ने पाया कि DeepSeek AI चैटबॉट में भी संकेत शब्दों के इंजेक्शन की कमजोरी है, जिससे हमलावर उपयोगकर्ता के कंप्यूटर पर नियंत्रण प्राप्त कर सकते हैं। इसके अलावा, बड़े भाषा मॉडल ANSI एस्केप कोड भी आउटपुट कर सकते हैं, जिससे "Terminal DiLLMa" हमले की संभावना होती है, जिससे सिस्टम टर्मिनल को हाइजैक किया जा सकता है।
इस पर, Anthropic कंपनी ने पहले से ही परीक्षण संस्करण में उपयोगकर्ताओं को चेतावनी दी है: "Computer Use सुविधा हमेशा अपेक्षित रूप से कार्य नहीं कर सकती है, इसलिए सुझाव दिया जाता है कि Claude को संवेदनशील डेटा और संचालन से अलग रखा जाए ताकि संकेत शब्दों के इंजेक्शन से संबंधित जोखिमों से बचा जा सके।"
यह घटना हमें फिर से चेतावनी देती है: जबकि AI प्रौद्योगिकी तेजी से विकसित हो रही है, सुरक्षा समस्याओं को नजरअंदाज नहीं किया जा सकता। डेवलपर्स को कार्यक्षमता और सुरक्षा के बीच संतुलन बनाना चाहिए, और उपयोगकर्ताओं को AI उपकरणों का उपयोग करते समय सुरक्षा जागरूकता बढ़ानी चाहिए और आवश्यक सुरक्षा उपाय अपनाने चाहिए।
