गूगल ने इस सप्ताह घोषणा की कि वह अपने Magic Editor AI फीचर का उपयोग कर संपादित चित्रों में डिजिटल वॉटरमार्क जोड़ेगा। यह वॉटरमार्क विशेष रूप से Pixel9 उपकरण पर Reimagine फीचर के माध्यम से संशोधित चित्रों के लिए लागू होता है। इस नए फीचर का उद्देश्य AI द्वारा उत्पन्न और संपादित सामग्री की पहचान की क्षमता को बढ़ाना है। Reimagine फीचर 2024 में घोषित किया गया था, जो जनरेटिव AI तकनीक का उपयोग करके डिजिटल फोटोज़ में विभिन्न प्रकार के संशोधन करता है। यह फीचर Magic Ed के साथ एकीकृत है।

मेटा कंपनी ने हाल ही में वीडियो सील नामक एक नई तंत्रिका वॉटरमार्क प्रणाली पेश की है, जो एआई द्वारा उत्पन्न वीडियो की पहचान में मदद करने के लिए डिज़ाइन की गई है, भले ही वीडियो को संपादित किया गया हो, इसका स्रोत प्रभावी ढंग से ट्रैक किया जा सकता है। यह वॉटरमार्क दर्शकों के लिए अदृश्य है, लेकिन वीडियो की वास्तविकता की पुष्टि के लिए इसका पता लगाया जा सकता है। मेटा ने MIT लाइसेंस के तहत ओपन-सोर्स सॉफ़्टवेयर के रूप में पूरी प्रणाली जारी की है, जिसमें वीडियो सील वॉटरमार्क मॉडल, शोध पत्र और प्रशिक्षण और अनुमान कोड शामिल हैं। इसके अतिरिक्त, मेटा ने भी जारी किया

आजकल, डीपफेक हर जगह मौजूद है। जनरेटिव AI के प्रसार के साथ, ऑनलाइन नकली सामग्री में विस्फोटक वृद्धि हुई है। पहचान सत्यापन प्लेटफॉर्म सुमसब के अनुसार, 2023 से 2024 के बीच, वैश्विक डीपफेक की संख्या 4 गुना बढ़ गई है। 2024 में, डीपफेक सभी धोखाधड़ी में 7% का योगदान देगा, पहचान की धोखाधड़ी, खाता चोरी से लेकर जटिल सामाजिक इंजीनियरिंग हमलों तक, हर जगह डीपफेक की छवि देखी जा सकती है। डीपफेक का प्रभावी ढंग से मुकाबला करने के लिए, Me

गहरे फर्जी तकनीक के व्यापक उपयोग के साथ, इंटरनेट पर झूठे सामग्री की संख्या में वृद्धि हुई है। ID सत्यापन प्लेटफार्म सुमसब के आंकड़ों के अनुसार, 2023 से 2024 के बीच गहरे फर्जी की संख्या चार गुना बढ़ गई, 2024 में गहरे फर्जी सामग्री सभी धोखाधड़ी का 7% है। इनमें पहचान धोखाधड़ी, खाते का नियंत्रण और जटिल सामाजिक इंजीनियरिंग हमले जैसे विभिन्न रूप शामिल हैं। इस चुनौती का सामना करने के लिए, मेटा कंपनी ने हाल ही में एक नया वॉटरमार्क टूल - मेटा वीडियो सील पेश किया है, जिसका उद्देश्य AI द्वारा उत्पन्न

जनरेटिव आर्टिफिशियल इंटेलिजेंस के व्यावसायीकरण के साथ, इंटरनेट पर फर्जी कंटेंट की संख्या तेजी से बढ़ी है। पहचान प्रमाणीकरण प्लेटफार्म Sumsub के डेटा के अनुसार, 2023 से 2024 तक, वैश्विक डीपफ़ेक की संख्या में चार गुना वृद्धि हुई है। 2024 में, डीपफ़ेक सभी धोखाधड़ी के 7% के लिए जिम्मेदार होगा, जिसमें पहचान की चोरी, खाता खुद लेना और जटिल सामाजिक इंजीनियरिंग गतिविधियों सहित कई रूप शामिल हैं। इस समस्या का समाधान करने के लिए, Meta ने एक नया टूल - Meta Video Seal पेश किया है, जिसका उद्देश्य AI द्वारा जनरेट किए गए वीडियो में अज्ञात डाटा जोड़कर नकली कंटेंट को पहचानना है।

हाल के वर्षों में, डिजिटल सामग्री के तेजी से प्रसार के साथ, वॉटरमार्क छवि कॉपीराइट की सुरक्षा के एक महत्वपूर्ण साधन के रूप में अधिक से अधिक ध्यान आकर्षित कर रहा है। हालाँकि, वॉटरमार्क अक्सर छवि की सुंदरता को प्रभावित करता है, जिससे इसे साझा करने या उपयोग करने पर सीमाएँ आती हैं। kaze.ai एक मुफ्त ऑनलाइन वॉटरमार्क हटाने वाला उपकरण है, जो उन्नत कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करके उपयोगकर्ताओं को छवियों पर वॉटरमार्क और लोगो को आसानी से निकालने में मदद करता है। kaze.ai का उपयोग बहुत सरल है, उपयोगकर्ताओं को केवल छवि या छवि के लिंक को अपलोड करने की आवश्यकता होती है, जिसके बाद वे जल्दी से वॉटरमार्क हटाने की प्रक्रिया शुरू कर सकते हैं। इस प्लेटफ़ॉर्म का वादा है कि, प्रक्रिया के दौरान।

हाल ही में, Google ने अपने टेक्स्ट वॉटरमार्क टूल SynthID को ओपन-सोर्स करने की घोषणा की, जिसका उद्देश्य डेवलपर्स को AI द्वारा उत्पन्न पाठ को बेहतर तरीके से पहचानने में मदद करना है। यह टूल अब Google के 'जिम्मेदार जनरेटिव AI टूलकिट' के माध्यम से आम जनता के उपयोग के लिए उपलब्ध है। Google DeepMind के रिसर्च वाइस प्रेसिडेंट पुशमीट कोहली ने कहा कि यह तकनीक अन्य जनरेटिव AI डेवलपर्स को यह पहचानने में सक्षम बनाएगी कि पाठ का आउटपुट उनके अपने बड़े भाषा मॉडल (LLM) से आया है, जो उन्हें अधिक जिम्मेदार तरीके से काम करने में मदद करेगा।

Hotshot ने एक नई पाठ से वीडियो AI जेनरेटर पेश किया है, जो 10 सेकंड तक, 720p रिज़ॉल्यूशन वाले वीडियो उत्पन्न कर सकता है, जिसमें漫画 शैली और ट्रेसिंग शैली जैसे कई एनीमेशन शैलियों का समर्थन है। इस मॉडल में वॉटरमार्क मुक्त आउटपुट, विविध वीडियो शैलियाँ, उच्च अनुकूलनशीलता और विस्तारणीयता जैसे विशेषताएँ हैं, जो 600 मिलियन वीडियो क्लिप पर प्रशिक्षण प्राप्त करके विकसित किया गया है, जिसमें लंबे वीडियो समय और उच्च रिज़ॉल्यूशन तक विस्तृत करने की क्षमता है। उपयोगकर्ता आधिकारिक वेबसाइट पर मुफ्त में अनुभव कर सकते हैं, प्रतिदिन उत्पन्न करने की सीमित संख्या है। Hotshot टीम ने चार महीने के भीतर पूरा किया।

OpenAI को चुनौती का सामना करना पड़ रहा है: छात्रों द्वारा ChatGPT का उपयोग करके धोखाधड़ी के मामले को कैसे निपटें? हालाँकि 99.9% सटीकता के साथ ChatGPT द्वारा उत्पन्न सामग्री का पता लगाने के लिए एक 'वॉटरमार्क' तकनीक विकसित की गई है, लेकिन छात्रों द्वारा AI का उपयोग करके धोखाधड़ी करने की व्यापक चिंता के कारण, इस तकनीक को सार्वजनिक रूप से जारी नहीं किया गया है। तकनीक पर आंतरिक चर्चा पिछले लगभग दो वर्षों से जारी है, और लॉन्च में बाधा डालने वाले मुख्य कारक में पारदर्शिता के वादे और उपयोगकर्ताओं की वफादारी बनाए रखने के बीच संतुलन बनाना, और गैर-英语 भाषियों पर नकारात्मक प्रभाव डालने की चिंता शामिल है। शिक्षा क्षेत्र में इस माँग की तात्कालिकता है, और AI धोखाधड़ी के मामलों के बारे में चिंता है।

OpenAI के भीतर यह बहस हो रही है कि क्या ChatGPT द्वारा उत्पन्न टेक्स्ट को वॉटरमार्किंग तकनीक के माध्यम से चिह्नित किया जाना चाहिए, ताकि छात्रों की नकल को रोका जा सके। वॉटरमार्किंग तकनीक शब्दों और वाक्यांशों की भविष्यवाणी को समायोजित करके एक पता लगाने योग्य पैटर्न उत्पन्न करती है, जिसका उद्देश्य शिक्षकों को होमवर्क की नकल का पता लगाने में मदद करना है, बिना टेक्स्ट की गुणवत्ता को प्रभावित किए। हालाँकि तकनीकी सटीकता उच्च है और साधारण रूपांतरण का प्रतिरोध करती है, लेकिन अन्य मॉडलों का उपयोग करके पुनः लेखन वॉटरमार्क को बाईपास कर सकता है, जिससे चिंताएँ पैदा होती हैं। वॉटरमार्क को लागू करने से कुछ उपयोगकर्ताओं को कलंकित किए जाने का अहसास हो सकता है, जिससे उपयोगकर्ताओं की संख्या में कमी आ सकती है। तकनीकी प्रभावशीलता और उपयोगकर्ता अनुभव के बीच संतुलन बनाने के लिए

हाल ही में, द वॉल स्ट्रीट जर्नल ने रिपोर्ट किया कि कृत्रिम बुद्धिमत्ता कंपनी OpenAI ने एक ऐसा उपकरण विकसित किया है जो ChatGPT द्वारा उत्पन्न टेक्स्ट की उच्च सटीकता से पहचान कर सकता है, लेकिन इसे अभी तक आधिकारिक रूप से जारी नहीं किया गया है। इस पर, OpenAI ने जवाब दिया, यह स्वीकार करते हुए कि वे टेक्स्ट वॉटरमार्किंग तकनीक पर शोध कर रहे हैं, लेकिन यह भी कहा कि इस तकनीक को अभी कई चुनौतियों का सामना करना पड़ रहा है।

हाल के वर्षों में, आर्टिफिशियल इंटेलिजेंस प्रौद्योगिकी के तेजी से विकास के साथ, सामग्री निर्माताओं को अपनी कृतियों के अवैध उपयोग की चिंता है, और यह मुद्दा विश्व स्तर पर व्यापक ध्यान आकर्षित कर रहा है। रचनात्मक अधिकारों की रक्षा के लिए, अमेरिकी सीनेट के द्विदलीय सांसदों ने 'सामग्री स्रोत संरक्षण और गहरे अनुकरण मीडिया अखंडता अधिनियम' (COPIED अधिनियम) का प्रस्ताव रखा है, जिसका उद्देश्य एआई द्वारा उत्पन्न सामग्री की सत्यापन और पहचान प्रक्रिया को सरल बनाना है, ताकि बिना अनुमति के उपयोग को रोका जा सके। इस अधिनियम के अनुसार, अमेरिकी राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) संबंधित मानकों को विकसित करने के लिए जिम्मेदार होगा।

हाल ही में, मेटा ने चुपचाप छह अनुसंधान成果 जारी किए, जिसने एआई क्षेत्र में नए अनुप्रयोगों और तकनीकी प्रगति को लाया। इनमें मल्टीमॉडल मॉडल, टेक्स्ट जनरेटेड म्यूजिक मॉडल, ऑडियो वॉटरमार्किंग तकनीक, डेटा सेट आदि जैसे कई प्रोजेक्ट शामिल हैं। आइए एक साथ देखें कि ये अनुसंधान परिणाम वास्तव में कौन-कौन से हैं।

OpenAI का छवि उत्पन्न करने वाला DALL-E3 छवि मेटाडेटा में वॉटरमार्क जोड़ेगा, ताकि अधिक कंपनियों द्वारा सामग्री के स्रोत और वास्तविकता के मानकों को लागू किया जा सके। C2PA का वॉटरमार्क ChatGPT वेबसाइट और DALL-E3 मॉडल API से उत्पन्न छवियों में दिखाई देगा। उपयोगकर्ता OpenAI प्लेटफॉर्म द्वारा उत्पन्न किसी भी छवि के स्रोत की जांच करने के लिए Content Credentials Verify जैसी वेबसाइटों का उपयोग कर सकते हैं। C2PA ऐसी कंपनियों द्वारा बनाया गया है जैसे Adobe और Microsoft।

डिजिटल वॉटरमार्क और आर्टिफिशियल इंटेलिजेंस का संयोजन कॉपीराइट उल्लंघन के मामलों के समाधान को तेज करता है। न्यायालय डिजिटल वॉटरमार्क और आर्टिफिशियल इंटेलिजेंस के संयोजन से अधिक सबूत प्राप्त करेगा। अधिक जटिल वॉटरमार्क का उपयोग तेज और अधिक सटीक समाधानों की ओर ले जाएगा। आर्टिफिशियल इंटेलिजेंस 3डी प्रिंटिंग कॉपीराइट विवादों को हल करने की प्रक्रिया को तेज कर सकता है और ऑनलाइन कॉपीराइट उल्लंघन सुनवाई से पहले प्रक्रिया को अनुकूलित कर सकता है।

गूगल दीपमाइंड ने मानव कान द्वारा पता न लगाया जा सकने वाले AI ऑडियो वॉटरमार्क技术 SynthID पेश की। ऑडियो वॉटरमार्क AI द्वारा उत्पन्न स्रोत की पहचान के लिए है, जो सुनने के अनुभव को प्रभावित नहीं करता है। संकुचित, तेज या धीमी की गई ऑडियो में भी वॉटरमार्क का पता लगाया जा सकता है, जो जनरेटिव AI से उत्पन्न खतरों के खिलाफ महत्वपूर्ण सुरक्षा प्रदान करता है। SynthID एक ऐसा तरीका है जो ऑडियो तरंगों को द्वि-आयामी दृश्य में परिवर्तित करता है।

माइक्रोसॉफ्ट ने डिजिटल वॉटरमार्क टूल, जिसका नाम कंटेंट क्रेडेंशियल्स एज अ सर्विस है, लॉन्च किया, जिसका उद्देश्य राजनीतिक अभियानों को गहरे फ़र्ज़ीकरण के खतरों से बचाना है। यह टूल मेटाडेटा जोड़ने वाली जानकारी के माध्यम से काम करता है, जिसमें सामग्री उत्पन्न होने का समय, तरीका, निर्माता आदि शामिल हैं। माइक्रोसॉफ्ट ने संगठनों के साथ सहयोग किया है, बिंग पर विश्वसनीय चुनावी जानकारी साइट लॉन्च करने के लिए, और एआई द्वारा झूठे राजनीतिक विज्ञापनों के निर्माण पर प्रतिबंध लगाने वाले विधेयक का समर्थन किया है। डिजिटल वॉटरमार्क टूल के अलावा, माइक्रोसॉफ्ट साइबर सुरक्षा संरक्षण और कृत्रिम बुद्धिमत्ता की सलाह भी प्रदान करता है, और चुनाव संचार केंद्र स्थापित करता है।

उत्पन्न AI तकनीक के विकास के साथ, AI द्वारा उत्पन्न सामग्री और मानव द्वारा उत्पन्न सामग्री के बीच अंतर करना越来越 मुश्किल हो गया है। क्या डिजिटल वॉटरमार्क तकनीक मानवता को सामग्री पर नियंत्रण फिर से प्राप्त करने में मदद कर सकती है यह विवादास्पद है। डिजिटल वॉटरमार्क को AI युग में विश्वास स्थापित करने और बनाए रखने के एक तरीके के रूप में माना जाता है।

AI तकनीक के विकास ने गहरी फ़र्ज़ीपन छवियों के निर्माण को बहुत आसान बना दिया है, जिससे सामाजिक जोखिमों में वृद्धि हुई है। अध्ययन दर्शाता है कि मौजूदा डिजिटल वॉटरमार्किंग तकनीकें आसानी से दरकिनार की जा सकती हैं, जो AI गहरी फ़र्ज़ीपन की समस्या को नियंत्रित करना मुश्किल बना देती हैं। AI का दुरुपयोग झूठी जानकारी, धोखाधड़ी, और यहां तक कि चुनावी धोखाधड़ी जैसी व्यापक हानियाँ उत्पन्न कर सकता है, जिसके प्रति सावधान रहना आवश्यक है। सटीक डिजिटल वॉटरमार्किंग तकनीक को डिज़ाइन करना एक निश्चित कठिनाई है, लेकिन यह असंभव कार्य नहीं है।

अनुसंधानकर्ताओं ने पाया कि वर्तमान सभी AI द्वारा उत्पन्न छवियों के वॉटरमार्किंग तकनीक को आसानी से टूट सकता है। डिजिटल वॉटरमार्क को हटाया जा सकता है या वास्तविक छवियों में जोड़ा जा सकता है जिससे गलत रिपोर्ट हो सकती है। वर्तमान में वॉटरमार्किंग तकनीक AI द्वारा उत्पन्न छवियों की सटीक पहचान नहीं कर सकती। दुर्भावनापूर्ण अभिनेता वॉटरमार्क को आसानी से बypass या हेरफेर कर सकते हैं। कलाकारों के काम को वॉटरमार्किंग तकनीक के कारण गलत तरीके से AI द्वारा उत्पन्न के रूप में चिह्नित किया जा सकता है।