Zoom उपयोगकर्ताओं के लिए एक अद्भुत नई सुविधा लाने के लिए तैयार है, लेकिन हमें इसकी वास्तविकता देखने के लिए अगले साल तक इंतजार करना पड़ सकता है। इस वीडियो कॉन्फ्रेंसिंग दिग्गज ने अपनी वार्षिक डेवलपर सम्मेलन में घोषणा की है कि वे एक ऐसी सुविधा पेश करेंगे जो उपयोगकर्ताओं के वीडियो को AI-चालित यथार्थवादी डिजिटल अवतार में परिवर्तित कर सकेगी।
यह डिजिटल अवतार केवल सिर नहीं, बल्कि ऊपरी भुजाओं और कंधों को भी शामिल करता है, जिसे "डिजिटल डुप्लिकेट" कहा जा सकता है। उपयोगकर्ताओं को बस वह सामग्री दर्ज करनी होगी जिसे वे चाहते हैं कि डिजिटल अवतार कहे, और Zoom उस सामग्री के साथ लिप-सिंक करने वाले ऑडियो को उत्पन्न करेगा। यह सुनने में बहुत जादुई लगता है, है ना?
Zoom की मुख्य उत्पाद अधिकारी स्मिता हाशिम ने कहा कि यह सुविधा लोगों को "तेजी और अधिक कुशल" तरीके से सहकर्मियों के साथ "असिंक्रोनस" संवाद करने में मदद करने के लिए डिज़ाइन की गई है। उन्होंने जोर देकर कहा कि यह अवतार उपयोगकर्ताओं के लिए कीमती समय और ऊर्जा बचा सकता है, साथ ही वीडियो निर्माण की दक्षता को भी बढ़ा सकता है।
हालांकि, इस तकनीक के आने से कुछ चिंताएँ भी उठी हैं। हमें यह सोचने पर मजबूर होना पड़ता है कि क्या यह गहरे धोखे (deepfake) के जोखिम को जन्म देगी?
वास्तव में, कई कंपनियों ने पहले से ही समान AI तकनीकों का विकास किया है, जो किसी व्यक्ति के चेहरे को डिजिटल "क्लोन" कर सकती हैं, और इसके साथ काफी स्वाभाविक कृत्रिम आवाज़ भी प्रदान कर सकती हैं। उदाहरण के लिए, टेवस ब्रांडों को व्यक्तिगत वीडियो विज्ञापनों के लिए वर्चुअल पात्र बनाने में मदद करता है, जबकि माइक्रोसॉफ्ट ने पिछले वर्ष एक ऐसी सेवा लॉन्च की थी जो विश्वसनीय डिजिटल प्रतिस्थापनों को उत्पन्न कर सकती है।
लेकिन ये उपकरण आमतौर पर दुरुपयोग को रोकने के लिए सख्त सुरक्षा उपाय लागू करते हैं। टेवस मौखिक सहमति की आवश्यकता करता है, जबकि माइक्रोसॉफ्ट अपने ग्राहकों से सभी संबंधित अवतार प्रतिभाओं की लिखित अनुमति और सहमति प्राप्त करने की मांग करता है।
इसके विपरीत, Zoom अपनी सुरक्षा उपायों के विवरण में कुछ अस्पष्टता प्रतीत होता है। हाशिम ने कहा कि कंपनी कस्टम अवतार सुविधा के लिए "कई सुरक्षा उपाय" बना रही है, जिसमें "उन्नत प्रमाणीकरण" और वॉटरमार्क शामिल हैं। उन्होंने वादा किया कि वे आगे की समीक्षा करेंगे और भविष्य में आवश्यकता के अनुसार सुरक्षा उपायों को जोड़ते रहेंगे।
Zoom की यह पहल CEO युआन झेंग के महत्त्वाकांक्षी दृष्टिकोण के साथ मेल खाती है। वह भविष्य में ऐसी AI बनाने की आशा करते हैं जो आपके लिए Zoom मीटिंग में भाग ले सके, ईमेल का जवाब दे सके, और यहां तक कि फोन कॉल भी उठा सके।
हालांकि, यह तकनीक उस समय आई है जब गहरे धोखे सोशल मीडिया पर तेजी से फैल रहे हैं, जिससे सच्चाई और फर्जी जानकारी के बीच भेद करना越来越 मुश्किल हो गया है। इस वर्ष, अमेरिका के राष्ट्रपति जो बिडेन, टेलर स्विफ्ट और उपराष्ट्रपति कमला हैरिस से संबंधित गहरे धोखे वाले वीडियो ने ऑनलाइन लाखों व्यूज और शेयर प्राप्त किए हैं। हाल ही में, तूफान हेलेन के बाद, बहुत सारे फर्जी AI उत्पन्न चित्र इंटरनेट पर फैल गए, जो काल्पनिक तबाही और मानव दु:ख के दृश्यों को दिखा रहे थे।
गहरे धोखे की तकनीक का उपयोग व्यक्तिगत रूप से भी किया गया है, जैसे कि परिवार के सदस्यों की नकल करके धोखाधड़ी करना। अमेरिका के संघीय व्यापार आयोग के अनुसार, पिछले वर्ष धोखाधड़ी से संबंधित क्षति 10 बिलियन डॉलर से अधिक थी।
तो, Zoom वास्तव में अपने उपकरणों का दुरुपयोग करने वाले धोखेबाजों से नकली वीडियो उत्पन्न करने से कैसे रोकेगा? अभी यह स्पष्ट नहीं है। कंपनी द्वारा प्रदान की गई अनुकरण चित्र में, कस्टम अवतार वीडियो के ऊपरी दाएं कोने में एक दृश्य वॉटरमार्क है। लेकिन यह वॉटरमार्क स्क्रीन रिकॉर्डिंग उपकरणों द्वारा आसानी से काटा जा सकता है।
हमें उम्मीद है कि 2025 के पहले छमाही में Zoom इस सुविधा को लॉन्च करने की योजना बना रहा है, तब हमें अधिक विवरण जानने को मिलेगा। तब, उपयोगकर्ताओं को Zoom क्लिप (इसके असिंक्रोनस वीडियो उपकरण) में कस्टम अवतार का उपयोग करने के लिए प्रति माह 12 डॉलर का अतिरिक्त शुल्क देना होगा।
चाहे Zoom अंततः क्या कदम उठाता है, नियामक प्रयास चल रहे हैं, जो गहरे धोखे की बाढ़ को रोकने की कोशिश कर रहे हैं। अमेरिका के संघीय स्तर पर गहरे धोखे को अपराध मानने वाले कानूनों की कमी के बावजूद, 10 से अधिक राज्यों ने AI सहायता धोखाधड़ी के खिलाफ नियम बनाए हैं। कैलिफोर्निया का कानून (जो वर्तमान में निलंबित है) पहला कानून होगा जो न्यायाधीशों को गहरे धोखे की सामग्री के प्रकाशकों को सामग्री हटाने का आदेश देने का अधिकार देगा, अन्यथा उन्हें दंड का सामना करना पड़ सकता है।
जैसे-जैसे Zoom इस नई सुविधा को लॉन्च करता है, हम पूछने के लिए मजबूर हैं: क्या तकनीकी प्रगति हमेशा सकारात्मक प्रभाव लाती है? क्या हम सुविधा का आनंद लेते हुए अनजाने में पैंडोरा के बॉक्स को खोल रहे हैं? यह हर एक व्यक्ति के लिए विचार करने की आवश्यकता है।
