जनरेटिव आर्टिफिशियल इंटेलिजेंस के व्यावसायीकरण के साथ, ऑनलाइन फर्जी सामग्री की संख्या तेजी से बढ़ी है। पहचान सत्यापन प्लेटफॉर्म सुमसब के आंकड़ों के अनुसार, 2023 से 2024 के बीच, वैश्विक गहरे फर्जीवाड़े की संख्या चार गुना बढ़ गई। 2024 में, गहरे फर्जीवाड़े सभी धोखाधड़ी के 7% के लिए जिम्मेदार होंगे, जिसमें पहचान की चोरी, खाते का अधिग्रहण और जटिल सामाजिक इंजीनियरिंग गतिविधियों जैसे विभिन्न रूप शामिल हैं।
इस समस्या का सामना करने के लिए, मेटा ने एक नया उपकरण - मेटा वीडियो सील लॉन्च किया है, जिसका उद्देश्य एआई द्वारा उत्पन्न वीडियो में अदृश्य जलमार्क जोड़कर गहरे फर्जीवाड़े से लड़ना है। यह उपकरण गुरुवार को ओपन-सोर्स जारी किया गया, ताकि इसे मौजूदा सॉफ़्टवेयर में एकीकृत करना आसान हो, और मेटा द्वारा पहले लॉन्च किए गए अन्य जलमार्क उपकरणों जैसे वाटरमार्क एनिथिंग और ऑडियो सील के साथ मिलकर काम करे।
मेटा के आर्टिफिशियल इंटेलिजेंस शोध वैज्ञानिक पियरे फर्नांडीज ने एक साक्षात्कार में कहा: "हमने वीडियो सील विकसित करने का उद्देश्य अधिक प्रभावी वीडियो जलमार्क समाधान प्रदान करना है, विशेष रूप से एआई द्वारा उत्पन्न वीडियो का पता लगाने और मौलिकता की रक्षा करने के लिए।"
हालांकि वीडियो सील पहली वीडियो जलमार्क तकनीक नहीं है, डीपमाइंड का सिंथआईडी और माइक्रोसॉफ्ट की जलमार्क विधियाँ भी बाजार में कुछ उपयोग में हैं, लेकिन फर्नांडीज ने बताया कि मौजूदा जलमार्क उपकरणों में आमतौर पर कुछ कमियाँ होती हैं। उन्होंने कहा: "हालांकि अन्य जलमार्क उपकरण हैं, लेकिन वे वीडियो संकुचन के बाद प्रभावी नहीं होते, और वीडियो संकुचन सामग्री को सोशल प्लेटफार्मों पर फैलाने में बहुत सामान्य है; कुछ विधियों की संचालन दक्षता भी कम है, जिससे वे खुली या पुनरुत्पादित नहीं हो सकतीं; इसके अलावा, कई विधियाँ चित्र जलमार्क से आती हैं, लेकिन चित्र जलमार्क वीडियो के लिए उपयुक्त नहीं हैं।"
जलमार्क कार्यक्षमता के अलावा, वीडियो सील वीडियो में छिपी हुई जानकारी को भी एम्बेड कर सकता है, जिसे बाद में इन जानकारियों को उजागर करके वीडियो के स्रोत को ट्रेस करने के लिए उपयोग किया जा सकता है। मेटा का दावा है कि वीडियो सील धुंधला करना, काटना जैसे सामान्य संपादन तरीकों के खिलाफ प्रभावी रूप से प्रतिरोध कर सकता है, साथ ही सामान्य संकुचन एल्गोरिदम के खिलाफ भी।
हालांकि, फर्नांडीज ने स्वीकार किया कि वीडियो सील में कुछ सीमाएँ हैं, विशेष रूप से जलमार्क की पहचान करने की क्षमता और प्रतिकृति के खिलाफ क्षमता के बीच संतुलन में। उन्होंने कहा कि अत्यधिक संकुचन और बड़े संपादन जलमार्क को नुकसान पहुँचा सकते हैं या उसे पुनर्प्राप्त करने योग्य नहीं बना सकते हैं।
मेटा के सामने एक बड़ा चुनौती यह है कि डेवलपर्स और उद्योग के पेशेवरों के पास वीडियो सील का उपयोग करने का कोई प्रोत्साहन नहीं है, विशेष रूप से उन उपयोगकर्ताओं के लिए जो पहले से ही अन्य स्वामित्व समाधान का उपयोग कर रहे हैं। इस उद्देश्य के लिए, मेटा ने विभिन्न जलमार्क तकनीकों के प्रदर्शन की तुलना के लिए एक सार्वजनिक रैंकिंग - मेटा ओमनी सील बेंच लॉन्च किया है, और इस वर्ष के प्रमुख एआई सम्मेलन ICLR में जलमार्क तकनीक पर एक कार्यशाला आयोजित करेगा।
फर्नांडीज ने कहा: "हम चाहते हैं कि अधिक से अधिक एआई शोधकर्ता और डेवलपर्स अपने काम में किसी न किसी रूप की जलमार्क तकनीक को शामिल करें, और हम उद्योग और अकादमिक समुदाय के साथ सहयोग करने की आशा करते हैं, ताकि इस क्षेत्र का तेजी से विकास हो सके।"
