सीसीटीवी समाचार के अनुसार, हाल ही में हुबेई के हुआंगशी में एक मामले का खुलासा हुआ है, जिसमें अपराधी समूह ने एआई फेस स्वैप तकनीक का उपयोग करके सोशल मीडिया खातों को अनलॉक और बेचा, जिससे अवैध लाभ प्राप्त किया गया। पीड़ित श्री वांग ने एक स्टॉक ट्रेडिंग लाइव स्ट्रीम में शामिल होने के बाद निवेश करने के लिए प्रेरित किया गया और अंततः निकासी की समस्या का सामना करना पड़ा, जबकि दूसरे पक्ष का खाता धोखाधड़ी के संदेह में फ्रीज हो गया, जिससे धन निकालना संभव नहीं रहा।
पुलिस की जांच में पता चला कि संदिग्ध सोशल मीडिया खाते को अनफ्रीज किया गया और फिर से लॉगिन किया गया, जिससे यह अनुमान लगाया गया कि एक समूह ने अनलॉक करने में मदद की। जांच के बाद, हुआंगशी पुलिस ने हेनान में तीन संदिग्धों को गिरफ्तार किया और大量 इलेक्ट्रॉनिक उपकरण और फोन कार्ड बरामद किए। संदिग्ध गाओ और शु ने सितंबर 2023 के अंत से ऑनलाइन सोशल मीडिया खातों को बेचने और दूसरों को अनलॉक करने में मदद करने का काम शुरू किया, एआई फेस स्वैप तकनीक का उपयोग करके गतिशील वीडियो बनाए, प्लेटफ़ॉर्म द्वारा फ्रीज़ किए गए खातों को अनलॉक किया, प्रत्येक खाता अनलॉक करने के लिए 15 से 30 युआन शुल्क लिया, कुल 2107 खातों को अनलॉक किया, और अवैध लाभ 400,000 युआन प्राप्त किया।
उद्योग और सूचना प्रौद्योगिकी मंत्रालय के धोखाधड़ी विरोधी विशेषज्ञों ने बताया कि अपराधी सार्वजनिक चैनलों के माध्यम से पीड़ित की छवि या वीडियो प्राप्त करते हैं, और एआई तकनीक का उपयोग करके सीखने और अनुकरण करते हैं, जिससे नकली और असली के बीच भेद करना कठिन हो जाता है। एआई फेस स्वैप तकनीक न केवल स्थिर तस्वीरों में व्यक्तियों को जीवंत बनाती है, बल्कि वास्तविक समय के वीडियो संचार के दौरान चेहरे को भी बदल सकती है, यहां तक कि आवाज की नकल भी कर सकती है।
वर्तमान में, संबंधित विभाग एआई फेस स्वैप धोखाधड़ी पहचान और पूर्व चेतावनी तकनीक विकसित कर रहे हैं, मोबाइल टर्मिनल कंपनियों के साथ सहयोग कर जोखिम चेतावनी फ़ंक्शन पेश कर रहे हैं, ताकि उपयोगकर्ता के डेटा को लीक होने से बचाया जा सके, और उपयोगकर्ता की अनुमति के बाद पूर्व चेतावनी चेतावनी प्रदान की जा सके।
इंटरनेट सूचना सेवा गहन संश्लेषण प्रबंधन विनियमों के अनुसार, गहन संश्लेषण सेवा प्रदाताओं को संश्लेषण सामग्री पर वॉटरमार्क जोड़ने की आवश्यकता है, ताकि जनता को सूचित किया जा सके कि सामग्री एआई द्वारा उत्पन्न या संश्लेषित की गई है, साथ ही स्रोत को ट्रेस करना आसान हो। विशेषज्ञों का सुझाव है कि व्यक्तिगत गोपनीयता की सुरक्षा को मजबूत किया जाना चाहिए, बायोमेट्रिक जानकारी को आसानी से प्रदान नहीं करना चाहिए, और एनिमेटेड चित्रों या वीडियो को अनावश्यक रूप से साझा नहीं करना चाहिए, विशेष रूप से धन हस्तांतरण या भुगतान की मांगों से संबंधित मामलों में, विभिन्न तरीकों से सत्यापन और पुष्टि करनी चाहिए, ताकि धोखाधड़ी से बचा जा सके।
