आर्टिफिशियल इंटेलिजेंस तकनीक के तेजी से विकास के साथ, कई कंपनियों ने अपने "एआई एजेंट" सिस्टम पेश किए हैं, जो स्वायत्त रूप से पर्यावरण के साथ बातचीत कर सकते हैं और बिना मानव हस्तक्षेप के कार्य कर सकते हैं। माइक्रोसॉफ्ट और एंथ्रोपिक जैसी कंपनियों ने पहले ही अपने एआई एजेंट पेश कर दिए हैं, जबकि उद्योग के नेता ओपनएआई ने अभी तक अपने संस्करण को जारी नहीं किया है, इसके पीछे के कारणों पर विचार करना आवश्यक है।
द इनफॉर्मेशन की रिपोर्ट के अनुसार, ओपनएआई की देरी "प्रॉम्प्ट इंजेक्शन" हमलों से संबंधित है। यह हमला एआई मॉडल को दुर्भावनापूर्ण पक्षों के निर्देशों को स्वीकार करने के लिए प्रेरित कर सकता है। उदाहरण के लिए, जब उपयोगकर्ता एआई एजेंट को ऑनलाइन खोजने और वस्तुओं को खरीदने का निर्देश देता है, तो एआई अनजाने में एक दुर्भावनापूर्ण वेबसाइट पर जा सकता है, जो इसे पूर्व के निर्देशों को भूलने के लिए कह सकती है, या यहां तक कि उपयोगकर्ता के ईमेल में लॉगिन करने के लिए, क्रेडिट कार्ड की जानकारी चुराने के लिए। यह न केवल उपयोगकर्ताओं के लिए विनाशकारी परिणाम ला सकता है, बल्कि ओपनएआई की प्रतिष्ठा को भी गंभीर नुकसान पहुंचा सकता है।
चूंकि एआई एजेंटों में कंप्यूटर पर स्वायत्त रूप से कार्य करने की क्षमता होती है, इसलिए उन्हें उच्च सुरक्षा जोखिमों का सामना करना पड़ता है। यदि इन एजेंटों को हैक कर लिया जाता है, तो वे उपयोगकर्ताओं की फ़ाइलों और डेटा को और अधिक नुकसान पहुंचा सकते हैं। ओपनएआई के एक कर्मचारी ने इस पर कहा कि जबकि किसी भी बड़े भाषा मॉडल (एलएलएम) में हमले का संभावित जोखिम होता है, एआई एजेंट की स्वायत्तता इस जोखिम को बढ़ाती है।
वर्तमान में, प्रॉम्प्ट इंजेक्शन का जोखिम अन्य प्लेटफार्मों पर पूरी तरह से प्रमाणित हो चुका है। पिछले साल, एक सुरक्षा शोधकर्ता ने दिखाया कि माइक्रोसॉफ्ट का C o p i l o t एआई कैसे आसानी से नियंत्रित किया जा सकता है, जिससे संगठन की संवेदनशील जानकारी जैसे ईमेल और बैंक लेनदेन रिकॉर्ड लीक हो गए। इसके अलावा, इस शोधकर्ता ने C o p i l o t को अन्य कर्मचारियों की शैली में ईमेल लिखने के लिए सफलतापूर्वक नियंत्रित किया।
ओपनएआई का अपना चैटजीपीटी भी प्रॉम्प्ट इंजेक्शन के हमले का शिकार हुआ है, एक शोधकर्ता ने तीसरे पक्ष की फ़ाइलें (जैसे वर्ड दस्तावेज़) अपलोड करके झूठी "यादें" सफलतापूर्वक डाल दीं। इस संदर्भ में, ओपनएआई के कर्मचारियों ने प्रतिस्पर्धी एंथ्रोपिक द्वारा एआई एजेंट जारी करने के समय "लापरवाह दृष्टिकोण" पर आश्चर्य व्यक्त किया। एंथ्रोपिक ने केवल डेवलपर्स को "क्लॉड को संवेदनशील डेटा से अलग करने के लिए कदम उठाने" की सलाह दी, लेकिन अधिक कठोर सुरक्षा उपाय नहीं किए।
रिपोर्ट के अनुसार, ओपनएआई इस महीने अपने एजेंट सॉफ़्टवेयर को लॉन्च कर सकता है। हालांकि, सवाल यह है कि क्या विकास टीम द्वारा प्राप्त समय उनके उत्पाद के लिए मजबूत सुरक्षा निर्माण के लिए पर्याप्त होगा।
महत्वपूर्ण बिंदु:
🌐 ओपनएआई ने "प्रॉम्प्ट इंजेक्शन" हमले की चिंता के कारण एआई एजेंट जारी नहीं किया, संभावित जोखिम बहुत बड़ा है।
💻 अन्य कंपनियां जैसे माइक्रोसॉफ्ट और एंथ्रोपिक ने एआई एजेंट पेश किए हैं, लेकिन सुरक्षा खतरों का स्तर अभी भी गंभीर है।
🔒 ओपनएआई संभावित डेटा लीक को रोकने के लिए अपने उत्पाद की सुरक्षा बढ़ाने के लिए प्रयासरत है।
