आजकल, Deepfake हर जगह मौजूद है। जनरेटिव AI के प्रसार के साथ, ऑनलाइन फर्जी सामग्री में तेजी से वृद्धि हुई है। पहचान सत्यापन प्लेटफ़ॉर्म Sumsub के अनुसार, 2023 से 2024 के बीच, वैश्विक Deepfake की संख्या 4 गुना बढ़ गई है। 2024 में, Deepfake सभी धोखाधड़ी के 7% का प्रतिनिधित्व करेगा, जिसमें पहचान धोखाधड़ी, खाता चोरी से लेकर जटिल सामाजिक इंजीनियरिंग हमलों तक, सभी में Deepfake का हाथ है।

Deepfake के प्रभावी मुकाबले के लिए, Meta कंपनी ने हाल ही में एक उपकरण जारी किया है, जो AI द्वारा उत्पन्न वीडियो क्लिप पर मुश्किल से पहचानने योग्य वॉटरमार्क जोड़ सकता है। इस उपकरण का नाम Meta Video Seal है, जिसे गुरुवार को ओपन-सोर्स करने की घोषणा की गई थी, जिसका उद्देश्य मौजूदा सॉफ़्टवेयर में एकीकृत करना है। यह उपकरण Meta के अन्य वॉटरमार्क उपकरण Watermark Anything (जिसे आज ढीले लाइसेंस के तहत फिर से जारी किया गया है) और Audio Seal के साथ मिलकर एक पूर्ण वॉटरमार्क समाधान का निर्माण करता है。

Facebook मेटावर्स मेटा

Meta AI के अनुसंधान वैज्ञानिक पियरे फ़र्नांडीज़ ने TechCrunch के साथ एक साक्षात्कार में कहा: "हमने Video Seal को एक अधिक प्रभावी वीडियो वॉटरमार्क समाधान प्रदान करने के लिए विकसित किया है, विशेष रूप से AI द्वारा उत्पन्न वीडियो की पहचान करने और मौलिकता की रक्षा करने में।"

Video Seal इस प्रकार की पहली तकनीक नहीं है। DeepMind का SynthID वीडियो में वॉटरमार्क जोड़ सकता है, और Microsoft के पास भी अपना वीडियो वॉटरमार्क तरीका है।

लेकिन फ़र्नांडीज़ का मानना है कि कई मौजूदा विधियों में कमियाँ हैं।

“हालांकि अन्य वॉटरमार्क उपकरण मौजूद हैं, लेकिन वे वीडियो संकुचन के मामले में पर्याप्त मजबूत नहीं हैं (जब सामग्री सोशल प्लेटफॉर्म पर साझा की जाती है, तो वीडियो संकुचन बहुत सामान्य है); उनकी संचालन क्षमता बड़े पैमाने पर उपयोग के लिए पर्याप्त नहीं है; वे पर्याप्त खुला या पुनरुत्पादनीय नहीं हैं; या वे छवि वॉटरमार्क से उत्पन्न होते हैं, जबकि छवि वॉटरमार्क वीडियो के लिए सबसे अच्छा विकल्प नहीं है,” फ़र्नांडीज़ ने कहा।

वॉटरमार्क के अलावा, Video Seal वीडियो में छिपे हुए संदेश भी जोड़ सकता है, ताकि बाद में वीडियो के स्रोत का खुलासा किया जा सके। Meta का दावा है कि Video Seal सामान्य संपादन क्रियाओं जैसे धुंधला करना और क्रॉपिंग, साथ ही सामान्य संकुचन एल्गोरिदम का सामना कर सकता है।

फ़र्नांडीज़ ने स्वीकार किया कि Video Seal में कुछ सीमाएँ हैं, मुख्यतः वॉटरमार्क की पहचान की डिग्री और इसकी समग्र हेरफेर प्रतिरोध के बीच संतुलन। उन्होंने कहा कि उच्च-तीव्रता संकुचन और बड़े संपादन वॉटरमार्क को बदल सकते हैं या इसे पुनर्प्राप्त करना असंभव बना सकते हैं।

बेशक, Video Seal के सामने एक बड़ा मुद्दा यह है कि डेवलपर्स और उद्योग के पास इसे अपनाने के लिए बहुत कम कारण हैं, विशेष रूप से उन कंपनियों के लिए जो पहले से ही स्वामित्व वाले समाधानों का उपयोग कर रही हैं। इस समस्या को हल करने के लिए, Meta एक सार्वजनिक रैंकिंग Meta Omni Seal Bench शुरू कर रहा है, जो विभिन्न वॉटरमार्क विधियों के प्रदर्शन की तुलना के लिए विशेष रूप से बनाया गया है। इसके अलावा, Meta इस वर्ष ICLR (अंतरराष्ट्रीय शिक्षण प्रतिनिधित्व सम्मेलन) में वॉटरमार्क पर एक कार्यशाला आयोजित करेगा। ICLR एक महत्वपूर्ण AI सम्मेलन है।

“हम चाहते हैं कि अधिक से अधिक AI शोधकर्ता और डेवलपर्स अपने काम में किसी न किसी रूप में वॉटरमार्क को एकीकृत करें,” फ़र्नांडीज़ ने कहा, “हम उद्योग और अकादमिक क्षेत्र के साथ सहयोग करना चाहते हैं ताकि इस क्षेत्र के विकास को तेज किया जा सके।”

Meta की यह पहल, निश्चित रूप से Deepfake के प्रसार का मुकाबला करने के लिए नए विचार प्रदान करती है। ओपन-सोर्स, ओपन सहयोग, शायद इस जटिल समस्या का समाधान करने का एक प्रभावी तरीका है। लेकिन Video Seal का भविष्य, अभी भी इस पर निर्भर करता है कि इसे उद्योग में व्यापक रूप से स्वीकार और लागू किया जा सकता है या नहीं, और Deepfake "जादू से ऊंचा" के खिलाफ इसकी क्षमता पर।