गूगल DeepMind ने पहली बार सबसे सामान्य दुर्भावनापूर्ण एआई अनुप्रयोगों पर शोध किया, जिसमें परिणामस्वरूप यह पता चला कि जनरेटिव फर्जी राजनीतिक नेताओं और मशहूर हस्तियों की एआई (AI) "डीपफेक" एआई की मदद से साइबर हमलों के प्रयासों की तुलना में अधिक सामान्य है। यह शोध गूगल के एआई विभाग DeepMind और गूगल की अनुसंधान इकाई Jigsaw के सहयोग से किया गया है, जिसका उद्देश्य उन जनरेटिव एआई उपकरणों के जोखिम को मापना है, जिन्हें दुनिया की सबसे बड़ी टेक कंपनियों द्वारा बड़े लाभ के लिए बाजार में उतारा गया है।
प्रौद्योगिकी से संबंधित दुर्भावनापूर्ण कार्यकर्ताओं के प्रेरणा
शोध में पाया गया कि वास्तविक लेकिन झूठे व्यक्ति की छवियों, वीडियो और ऑडियो बनाने की गतिविधियाँ जनरेटिव एआई उपकरणों के दुरुपयोग के मामलों में लगभग सबसे अधिक हैं, जो कि अन्य उच्चतम उपयोग जैसे टेक्स्ट टूल्स (जैसे चैटबॉट) द्वारा जानकारी की जालसाजी से लगभग दो गुना अधिक है। जनरेटिव एआई के दुरुपयोग का सबसे सामान्य लक्ष्य सार्वजनिक राय को प्रभावित करना है, जो उपयोग के 27% को कवर करता है, जिससे इस साल वैश्विक चुनावों पर डीपफेक के प्रभाव के बारे में चिंता बढ़ गई है।
पिछले कुछ महीनों में, ब्रिटिश प्रधानमंत्री ऋषि सुनक और अन्य वैश्विक नेताओं के डीपफेक TikTok, X और Instagram पर दिखाई दिए हैं। ब्रिटिश मतदाता अगले सप्ताह होने वाले आम चुनाव में मतदान करेंगे। हालाँकि सोशल मीडिया प्लेटफ़ॉर्म इस प्रकार की सामग्री को चिह्नित या हटाने के लिए प्रयासरत हैं, लेकिन लोग यह नहीं पहचान सकते हैं कि यह झूठा है, और सामग्री का प्रसार मतदाताओं के मतदान को प्रभावित कर सकता है। DeepMind के शोधकर्ताओं ने लगभग 200 दुरुपयोग मामलों का विश्लेषण किया, जिसमें सोशल मीडिया प्लेटफ़ॉर्म X और Reddit, और ऑनलाइन ब्लॉग और मीडिया रिपोर्टों में दुरुपयोग के मामलों का समावेश है।
शोध में पाया गया कि एआई जनरेटेड उत्पादों (जैसे OpenAI का ChatGPT और गूगल का Gemini) का दुरुपयोग करने का दूसरा सबसे बड़ा कारण पैसा कमाना है, चाहे वह डीपफेक बनाने की सेवाएँ प्रदान करना हो या जनरेटिव एआई का उपयोग करके बड़ी मात्रा में सामग्री बनाना, जैसे झूठी समाचार लेख। शोध में पाया गया कि अधिकांश दुरुपयोग ऐसे उपकरणों का उपयोग करते हैं जो आसानी से उपलब्ध हैं, "जिसमें न्यूनतम तकनीकी विशेषज्ञता की आवश्यकता होती है", जिसका अर्थ है कि अधिक दुर्व्यवहार करने वाले जनरेटिव एआई का दुरुपयोग कर सकते हैं।
DeepMind का शोध इसके मूल्यांकन मॉडल की सुरक्षा में सुधार को प्रभावित करेगा, और यह भी उम्मीद है कि यह इसके प्रतिस्पर्धियों और अन्य हितधारकों के "हानिकारक प्रदर्शन" को देखने के तरीके को प्रभावित करेगा।
मुख्य बिंदु:
- 👉 DeepMind के शोध में पाया गया कि डीपफेक एआई अनुप्रयोगों के दुरुपयोग का प्रमुख मुद्दा है।
- 👉 जनरेटिव एआई उपकरणों के दुरुपयोग का सबसे सामान्य उद्देश्य सार्वजनिक राय को प्रभावित करना है, जो उपयोग के 27% को कवर करता है।
- 👉 जनरेटिव एआई के दुरुपयोग का दूसरा सबसे बड़ा कारण पैसा कमाना है, जिसमें मुख्य रूप से डीपफेक सेवाएँ और झूठी समाचारों का निर्माण शामिल है।
