हाल ही में, मध्य साम्राज्य चौराहे मंच श्रृंखला गतिविधियों की 12वीं डिजिटल वित्त और टेक्नोलॉजी वित्त सम्मेलन में, एंट ग्रुप के Deepfake पहचान समाधान को सम्मेलन के "फिनटेक तकनीकी नवाचार और अनुप्रयोग मामलों" में शामिल किया गया। एंट ग्रुप ने अपनी टियानजी प्रयोगशाला के तहत, उद्योग में पहली बार बड़े पैमाने पर, उच्च गुणवत्ता वाले, बहु-आयामी Deepfake डेटा सेट का निर्माण किया है, जिसमें एक मिलियन से अधिक मल्टीमीडिया सामग्री का समावेश है, जो वास्तविक दुनिया के वित्तीय जोखिम नियंत्रण वातावरण में Deepfake हमलों के नमूनों का पूर्ण अनुकरण करता है। यह मौजूदा वित्तीय क्षेत्र में Deepfake का परीक्षण करने के लिए एक उपकरण बन गया है।

AIGC तकनीक के तेजी से विकास के साथ, छवि संपादन उपकरण越来越 शक्तिशाली हो गए हैं, जिससे छवि परिवर्तन करना और भी आसान हो गया है और इसे पहचानना और भी कठिन हो गया है। हालांकि मौजूदा छवि परिवर्तन पता लगाने और स्थानांकन विधियाँ (IFDL) आम तौर पर बहुत प्रभावी होती हैं, लेकिन उन्हें दो बड़ी चुनौतियों का सामना करना पड़ता है: एक 'ब्लैक बॉक्स' प्रकृति, जहाँ पता लगाने का सिद्धांत स्पष्ट नहीं होता; दूसरा, सामान्यीकरण क्षमता सीमित होती है, जो विभिन्न परिवर्तन विधियों (जैसे Photoshop, DeepFake, AIGC संपादन) का सामना करने में कठिनाई पैदा करती है। इन समस्याओं का समाधान करने के लिए, पीeking विश्वविद्यालय के शोध दल ने व्याख्यायित IFDL कार्य का प्रस्ताव किया है।

Microsoft ने StopNCII नामक प्रतिशोधात्मक अश्लीलता संगठन के साथ मिलकर शिकारों को सर्च इंजन से deepfake अश्लील छवियाँ हटाने का टूल प्रदान किया है। उपकरण डिवाइस पर छवियों के डिजिटल फिंगरप्रिंट (हैश) बनाकर मदद करता है, जिससे Bing जैसे प्लेटफ़ॉर्म पर संबंधित संश्लेषित नग्न छवियों को पूरी तरह से हटाया जा सके। यह पहल जनरेटिव एआई तकनीक के दुरुपयोग द्वारा उत्पन्न deepfake अश्लीलता की समस्याओं से निपटने के लिए है, और केवल उपयोगकर्ता की रिपोर्ट पर निर्भर नहीं रहकर चुनौती का समाधान करती है। हालांकि, Google ने अभी तक StopNCII के साथ साझेदारी नहीं की है, और अमेरिका में इस तरह के व्यवहार के लिए कोई विशेष संघीय कानून नहीं है।

न्यूयॉर्क राज्य के बिंघमटन विश्वविद्यालय के शोधकर्ता अहमद अब्दिन हमेद ने xFakeSci नामक एक मशीन लर्निंग एल्गोरिद्म विकसित किया है, जो 94% की उच्च सटीकता से जाली अकादमिक पत्रों की पहचान कर सकता है। हमेद और उनकी टीम ने अल्जाइमर, कैंसर और अवसाद पर 50 जाली पत्रों को प्रयोग में बनाया और उन्हें वास्तविक पत्रों के साथ तुलना की। उन्होंने发现 किया कि जाली पत्रों में शब्द युग्मों की संख्या स्पष्ट रूप से वास्तविक पत्रों की तुलना में कम है, और यह सामग्री के साथ अधिक संबंध रखते हैं। हमेद इस एल्गोरिद्म का विस्तार अधिक क्षेत्रों में करने की योजना बना रहे हैं, ताकि A का सामना किया जा सके.

वर्तमान में सबसे तेजी से बढ़ने वाली प्रतिकूल कृत्रिम बुद्धिमत्ता के रूपों में से एक, डीपफेक्स (Deepfakes) से संबंधित नुकसान 2023 में 12.3 बिलियन डॉलर से बढ़कर 2027 तक 40 बिलियन डॉलर तक पहुँचने की उम्मीद है, जिससे सालाना औसत वृद्धि दर 32% तक पहुँचेगी। डेलॉइट का अनुमान है कि आगामी वर्षों में डीपफेक्स की मांग में वृद्धि होगी, और बैंकिंग तथा वित्तीय सेवाएँ मुख्य लक्ष्य बने रहेंगी।

साइबर अपराधी OnlyFake प्लेटफ़ॉर्म का उपयोग करके फर्जी पहचान पत्र बनाते हैं, जो क्रिप्टोकरेंसी एक्सचेंजों के KYC सत्यापन को पार करते हैं। 15 डॉलर का टूलकिट अपराधियों को आभासी पहचान बनाने में आसानी देता है, जिससे साइबर सुरक्षा समुदाय की चिंता बढ़ गई है। क्रिप्टोकरेंसी एक्सचेंज जैसे Binance, Kraken आदि ने इन धोखाधड़ी दस्तावेजों की पुष्टि की है। विशेषज्ञों का कहना है कि इस तकनीक का उपयोग धन शोधन और वित्तीय धोखाधड़ी के लिए किया जा सकता है, और साइबर सुरक्षा उपायों को सख्त करने की आवश्यकता की ओर इशारा किया है। AI संचालित धोखाधड़ी तकनीक लोगों को साइबर सुरक्षा मजबूत करने और फर्जी पहचान को कड़ी सुरक्षा जांच से आसानी से पास होने से रोकने की याद दिलाती है।