हाल के वर्षों में, वॉइस असिस्टेंट से लेकर ऑटोनॉमस ड्राइविंग तकनीक तक, AI ने जीवन के हर क्षेत्र में प्रवेश कर लिया है। हालांकि, AI तकनीक के व्यापक उपयोग ने कुछ संभावित जोखिम भी उत्पन्न किए हैं, जिसमें डीपफेक तकनीक ने समाज का ध्यान आकर्षित किया है।
डीपफेक तकनीक एल्गोरिदम का उपयोग करके अत्यधिक यथार्थवादी झूठे कंटेंट उत्पन्न करती है, जो बड़ी मात्रा में वास्तविक डेटा को सीखकर व्यक्तियों या दृश्यों के साथ बेहद समान वीडियो या छवियाँ बनाती है। हालांकि यह तकनीक AI की शक्ति को प्रदर्शित करती है, लेकिन यह धोखाधड़ी के कार्यों को भी जन्म देती है। उदाहरण के लिए, हाल ही में डॉ. झांग वेनहोंग की छवि और आवाज का उपयोग करके लाइव स्ट्रीमिंग में बिक्री करने की घटना सामने आई है। नकली वीडियो में,合成 इमेज ने किसी उत्पाद का दावा किया, जिससे 1200 से अधिक वस्तुएं बेची गईं। इस मामले ने डॉ. झांग वेनहोंग और समाज के लोगों की तीव्र असंतोष को जन्म दिया।
छवि स्रोत टिप्पणी: छवि AI द्वारा उत्पन्न, छवि लाइसेंस सेवा प्रदाता Midjourney
शंघाई उपभोक्ता अधिकार संरक्षण समिति के उप सचिव तांग जियानशेंग ने कहा कि इस प्रकार की AI तकनीक द्वारा प्रसिद्ध व्यक्तियों की छवि का दुरुपयोग उपभोक्ता अधिकारों का गंभीर उल्लंघन है। इसी तरह के मामलों में, राष्ट्रीय दिवस के दौरान किसी ने लेई जून की छवि का उपयोग करके मजेदार वीडियो बनाया, और लियू देहुआ की आवाज का उपयोग करके ट्रैफ़िक आकर्षित किया। संबंधित कंपनियों और प्रसिद्ध व्यक्तियों ने जनता को सतर्क रहने की चेतावनी दी है।
विशेषज्ञों का कहना है कि वर्तमान में AI तकनीक दूसरों के चेहरे और आवाज़ को आसानी से क्लोन कर सकती है, और उत्पन्न सामग्री की यथार्थता अत्यधिक उच्च है। हालांकि, इस प्रकार की तकनीक में कोई न कोई खामी होती है। चेहरे और पृष्ठभूमि के एकीकरण या आवाज़ और होंठ के मिलान की बारीकी से जांच करने पर, असामान्यताएँ पाई जा सकती हैं। इसके अलावा, वर्तमान में वास्तविक समय की लाइव स्ट्रीमिंग इस प्रकार की तकनीक के माध्यम से लागू करना मुश्किल है।
कानूनी विशेषज्ञों ने स्पष्ट रूप से कहा है कि बिना अनुमति के दूसरों की छवि या आवाज का उपयोग करना अवैध है। चीन की राजनीति और कानून विश्वविद्यालय के सहायक प्रोफेसर झू वेई ने जोर देकर कहा कि "नागरिक संहिता" के अनुसार, इस प्रकार का कार्य व्यक्तिगत अधिकारों का उल्लंघन करता है; "साइबर सुरक्षा कानून" के अनुसार, संबंधित सामग्री अवैध जानकारी के अंतर्गत आती है, और प्रकाशक को यहां तक कि आपराधिक जिम्मेदारी का सामना करना पड़ सकता है।
उपभोक्ताओं के लिए, यदि AI द्वारा प्रसिद्ध व्यक्तियों का नकल करके उत्पाद खरीदने पर मजबूर किया गया है, तो वे "उपभोक्ता अधिकार संरक्षण कानून" के अनुसार व्यापारी से "एक वापस, तीन मुआवजा" की मांग कर सकते हैं, जिसमें न्यूनतम मुआवजा राशि 500 युआन है। साथ ही, शॉर्ट वीडियो प्लेटफार्मों को भी निगरानी की जिम्मेदारी लेनी चाहिए और संबंधित सामग्री की समीक्षा और दंड की शक्ति को बढ़ाना चाहिए, ताकि अवैध जानकारी का व्यापक प्रसार न हो।
डीपफेक तकनीक के उदय ने जनता को याद दिलाया है कि AI की सुविधाओं का आनंद लेते समय, इसके संभावित जोखिमों के प्रति भी सतर्क रहना चाहिए।
