हाल ही में, ब्रिटेन के "गार्जियन" द्वारा किए गए एक सर्वेक्षण ने OpenAI के ChatGPT सर्च टूल में संभावित सुरक्षा खतरों का खुलासा किया है। सर्वेक्षण में पाया गया कि ChatGPT जब छिपे हुए सामग्री वाले वेब पृष्ठ सारांशों को संभालता है, तो यह हेरफेर का शिकार हो सकता है, और यहां तक कि दुर्भावनापूर्ण कोड भी वापस कर सकता है। ये छिपी हुई सामग्री तीसरे पक्ष के निर्देशों को शामिल कर सकती है, जिसका उद्देश्य ChatGPT की प्रतिक्रियाओं में बाधा डालना है, या बहुत सारे छिपे हुए पाठ, जो किसी उत्पाद या सेवा को बढ़ावा देने के लिए होते हैं।
चित्र स्रोत टिप्पणी: छवि AI द्वारा उत्पन्न, चित्र अधिकृत सेवा प्रदाता Midjourney
परीक्षण के दौरान, ChatGPT को एक जाली कैमरा उत्पाद पृष्ठ लिंक प्रदान किया गया और पूछा गया कि क्या वह कैमरा खरीदने लायक है। सामान्य पृष्ठ पर, ChatGPT उत्पाद के फायदे और नुकसान को संतुलित रूप से इंगित कर सकता है। हालाँकि, जब पृष्ठ में छिपा हुआ पाठ सकारात्मक समीक्षा देने के लिए निर्देश शामिल करता है, तो ChatGPT का उत्तर पूरी तरह से सकारात्मक हो जाता है, भले ही पृष्ठ पर नकारात्मक समीक्षाएँ हों। इसके अलावा, स्पष्ट निर्देशों के बिना भी, साधारण छिपा हुआ पाठ ChatGPT के सारांश परिणामों को प्रभावित कर सकता है, जिससे यह सकारात्मक समीक्षा देने की प्रवृत्ति रखता है।
CyberCX के साइबर सुरक्षा विशेषज्ञ जैकब लार्सन ने चेतावनी दी है कि यदि ChatGPT का सर्च सिस्टम मौजूदा स्थिति में पूरी तरह से जारी किया गया, तो यह "उच्च जोखिम" का सामना कर सकता है, क्योंकि कोई विशेष रूप से उपयोगकर्ताओं को धोखा देने के लिए वेबसाइटें डिजाइन कर सकता है। हालांकि, उन्होंने यह भी बताया कि OpenAI के पास एक मजबूत AI सुरक्षा टीम है, और उम्मीद है कि जब यह सभी उपयोगकर्ताओं के लिए उपलब्ध होगा, तब वे इन समस्याओं का सख्ती से परीक्षण और समाधान कर चुके होंगे।
सर्च इंजन जैसे गूगल ने छिपे हुए पाठ का उपयोग करने वाली वेबसाइटों को दंडित किया है, जिससे इन वेबसाइटों की रैंकिंग में गिरावट आई है, यहां तक कि उन्हें पूरी तरह से हटा भी दिया गया है। SR Labs के प्रमुख वैज्ञानिक कार्स्टन नोहल ने बताया कि किसी भी सर्च इंजन के लिए SEO विषाक्तता एक चुनौती है, और ChatGPT भी इससे अछूता नहीं है। फिर भी, यह बड़े भाषा मॉडल की समस्या नहीं है, बल्कि यह सर्च क्षेत्र में नए प्रवेशकों के सामने आने वाली चुनौती है।
मुख्य बिंदु:
🚨 ChatGPT को छिपी हुई सामग्री द्वारा हेरफेर किया जा सकता है, जो गलत मूल्यांकन लौटाता है।
🔍 छिपा हुआ पाठ ChatGPT के मूल्यांकन को प्रभावित कर सकता है, भले ही पृष्ठ पर नकारात्मक समीक्षाएँ हों।
🛡️ OpenAI संभावित समस्याओं को सक्रिय रूप से ठीक कर रहा है, ताकि सर्च टूल की सुरक्षा बढ़ सके।
