वर्तमान में सबसे तेजी से विकसित हो रहे प्रतिकूल कृत्रिम बुद्धिमत्ता के रूपों में से एक, डीपफेक्स (Deepfakes) से संबंधित नुकसान 2023 में 12.3 अरब डॉलर से बढ़कर 2027 तक 40 अरब डॉलर तक पहुंचने की उम्मीद है, जो कि 32% की आश्चर्यजनक वार्षिक वृद्धि दर को दर्शाता है। डेलॉयट का अनुमान है कि आने वाले वर्षों में डीपफेक्स में वृद्धि होगी, और बैंकिंग तथा वित्तीय सेवाएं मुख्य लक्ष्य बनेंगी।
डीपफेक्स प्रतिकूल एआई हमलों के मोर्चे पर हैं, और पिछले वर्ष में ही 3,000% की वृद्धि हुई है। 2024 तक, डीपफेक्स घटनाओं में 50% से 60% की वृद्धि होने की उम्मीद है, और इस वर्ष विश्व स्तर पर 140,000-150,000 ऐसी घटनाएं होने का अनुमान है।
नवीनतम पीढ़ी के जनरेटिव आर्टिफिशियल इंटेलिजेंस एप्लिकेशन, उपकरण और प्लेटफॉर्म हमलावरों को तेजी से और कम लागत में डीपफेक वीडियो, आवाज की नकल और धोखाधड़ी दस्तावेज बनाने के लिए आवश्यक सब कुछ प्रदान करते हैं। Pindrops की "2024 वॉयस इंटेलिजेंस और सुरक्षा रिपोर्ट" का अनुमान है कि संपर्क केंद्रों पर डीपफेक धोखाधड़ी से हर वर्ष होने वाले नुकसान का अनुमान 5 अरब डॉलर है। उनकी रिपोर्ट ने बैंकिंग और वित्तीय सेवाओं के लिए डीपफेक तकनीक के गंभीर खतरे पर जोर दिया है।
ब्लूमबर्ग ने पिछले वर्ष रिपोर्ट किया था, "डार्क वेब पर 20 डॉलर से लेकर हजारों डॉलर तक के धोखाधड़ी सॉफ़्टवेयर बेचने वाला एक पूरा घरेलू उद्योग उभरा है।" हाल ही में, Sumsub के "2023 पहचान धोखाधड़ी रिपोर्ट" पर आधारित एक इन्फोग्राफिक ने कृत्रिम बुद्धिमत्ता धोखाधड़ी की तेज़ वृद्धि का वैश्विक दृष्टिकोण प्रदान किया।
तीन में से एक कंपनी के पास प्रतिकूल कृत्रिम बुद्धिमत्ता हमलों के जोखिम का सामना करने के लिए कोई रणनीति नहीं है, और ये हमले सबसे अधिक संभावना उनके प्रमुख अधिकारियों के डीपफेक से शुरू होंगे। Ivanti के नवीनतम अध्ययन में पाया गया कि 30% कंपनियों के पास प्रतिकूल कृत्रिम बुद्धिमत्ता हमलों की पहचान और रक्षा के लिए कोई योजना नहीं है।
Ivanti की 2024 साइबर सुरक्षा स्थिति रिपोर्ट में पाया गया कि 74% उत्तरदाताओं ने कृत्रिम बुद्धिमत्ता खतरों के सबूत देखे हैं। अधिकांश (89%) का मानना है कि कृत्रिम बुद्धिमत्ता के खतरे अभी शुरू ही हुए हैं। Ivanti के साक्षात्कार में शामिल अधिकांश CISO, CIO और IT नेता (60%) चिंतित हैं कि उनकी कंपनियाँ कृत्रिम बुद्धिमत्ता के खतरों और हमलों के खिलाफ रक्षा के लिए तैयार नहीं हैं। डीपफेक का उपयोग फिशिंग, सॉफ़्टवेयर कमजोरियों, रैंसमवेयर और API संबंधित कमजोरियों सहित सावधानीपूर्वक योजनाबद्ध रणनीतियों के एक हिस्से के रूप में तेजी से सामान्य हो रहा है। यह सुरक्षा पेशेवरों की अपेक्षाओं के अनुरूप है कि नई पीढ़ी की कृत्रिम बुद्धिमत्ता के कारण खतरे और भी अधिक खतरनाक हो जाएंगे।
