हाल ही में, एक चौंकाने वाले एआई वॉयस क्लोनिंग धोखाधड़ी मामले ने व्यापक ध्यान आकर्षित किया है, जिससे यह तकनीक संभावित रूप से कितनी बड़ी जोखिम पैदा कर सकती है, यह उजागर हुआ है।
प्रसिद्ध उपभोक्ता संरक्षण वकील जेम्स शुस्तर के पिता इस हाई-टेक धोखाधड़ी के शिकार होने के कगार पर थे। धोखेबाजों ने एआई तकनीक का उपयोग करके जेम्स की आवाज़ की नकल की, और झूठा दावा किया कि वह शराब पीकर गाड़ी चलाने के लिए गिरफ्तार हुए हैं और उन्हें $30,000 की "जमानत" की तत्काल आवश्यकता है। यह चौंकाने वाला है कि धोखेबाज केवल 15 सेकंड के टेलीविजन इंटरव्यू ऑडियो का उपयोग करके एक वास्तविकता के समान आवाज़ क्लोन बना सकते हैं। हालाँकि जेम्स ने पहले ही अपने परिवार को इस प्रकार के धोखों से सतर्क किया था, फिर भी वे लगभग धोखे का शिकार हो गए।
यह घटना न केवल एआई वॉयस क्लोनिंग तकनीक के संभावित खतरों को उजागर करती है, बल्कि प्रौद्योगिकी के दुरुपयोग के प्रति चिंता भी उत्पन्न करती है। जेम्स ने उपभोक्ताओं को इस प्रकार की हाई-टेक धोखाधड़ी से बचाने के लिए एआई उद्योग पर अधिक निगरानी का आह्वान किया।
चित्र स्रोत टिप्पणी: चित्र एआई द्वारा उत्पन्न, चित्र अनुज्ञा सेवा प्रदाता Midjourney
और भी चिंताजनक यह है कि इस प्रकार के धोखाधड़ी के सफल होने की दर हमारे अनुमान से कहीं अधिक हो सकती है। लंदन विश्वविद्यालय के एक अध्ययन में पाया गया कि लोग एआई द्वारा उत्पन्न आवाज़ों को पहचानने में 27% तक की गलती कर सकते हैं। दूसरे शब्दों में, चार में से एक फोन धोखाधड़ी सफल हो सकती है। यह खोज मानवता की उस कमजोरी को उजागर करती है जब वह अत्यधिक यथार्थवादी एआई वॉयस क्लोनिंग का सामना करती है, और उन्नत गहरे नकली पहचान उपकरणों के विकास की तात्कालिकता को भी उजागर करती है।
इस बीच, आईबीएम के सुरक्षा विशेषज्ञों ने "ऑडियो हाईजैकिंग" नामक एक नई प्रकार के हमले की तकनीक का प्रदर्शन किया। यह तकनीक आवाज पहचान, टेक्स्ट जनरेशन और आवाज क्लोनिंग जैसी कई एआई तकनीकों को जोड़ती है, जिससे फोन कॉल को वास्तविक समय में हेरफेर किया जा सकता है और धन को फर्जी खातों में स्थानांतरित किया जा सकता है। विशेषज्ञों ने चेतावनी दी है कि तकनीक में निरंतर प्रगति के साथ, भविष्य में यहां तक कि वास्तविक समय के वीडियो कॉल को नियंत्रित करने वाले हमले भी हो सकते हैं, जो निश्चित रूप से उपभोक्ताओं के लिए और अधिक जोखिम लाएगा।
हालांकि आवाज क्लोनिंग तकनीक के कुछ सकारात्मक उपयोग हैं, जैसे कि विकलांग व्यक्तियों के लिए आवाज़ों को सहेजना, लेकिन वर्तमान में, इसके संभावित जोखिम लाभों से कहीं अधिक प्रतीत होते हैं। हाल ही में, वॉयस एक्टर अमेलिया टेलर ने अपनी एआई क्लोन आवाज़ के दुरुपयोग का सामना किया, जब इसे लाइवस्ट्रीम में अनुचित सामग्री पढ़ने के लिए इस्तेमाल किया गया, जिससे वह गुस्से में आ गईं और व्यक्तिगत गोपनीयता संरक्षण पर ध्यान आकर्षित हुआ।
इन बढ़ते हाई-टेक धोखों के खिलाफ, हम सभी को सतर्क रहना चाहिए। विशेषज्ञों का सुझाव है कि जब आपको किसी मित्र या परिवार के सदस्य से धन सहायता की आवश्यकता का फोन आता है, तो शांत रहें और स्थिति की पुष्टि करने के लिए अन्य चैनलों के माध्यम से संबंधित व्यक्ति से संपर्क करें। साथ ही, हमें संबंधित कानूनों और तकनीकी विकास का समर्थन करना चाहिए ताकि एआई द्वारा लाए गए सुरक्षा चुनौतियों का बेहतर तरीके से सामना किया जा सके।
