आर्टिफिशियल इंटेलिजेंस तकनीक के तेजी से विकास के साथ, AI द्वारा उत्पन्न पाठ, चित्र और वीडियो विभिन्न क्षेत्रों में अपने उपयोग में परिपक्व होते जा रहे हैं। हालाँकि, इसके साथ एक विश्वास संकट भी उत्पन्न हुआ है, जिसमें झूठी जानकारी का प्रसार समाज के लिए संभावित खतरा बन गया है। इस चुनौती का सामना करने के लिए, टेन्सेंट ने हाल ही में एक नई AI जनरेटेड कंटेंट डिटेक्शन टूल लॉन्च की है, जिसका उद्देश्य AI तकनीक के माध्यम से "फर्जी AI" को पहचानना है।
यह उपकरण टेन्सेंट के ज़ुहुआ प्रयोगशाला द्वारा विकसित किया गया है, जिसमें AI जनरेटेड टेक्स्ट डिटेक्शन और AI जनरेटेड इमेज डिटेक्शन के दो सिस्टम शामिल हैं। टेन्सेंट के आधिकारिक बयान के अनुसार, हालाँकि AI द्वारा उत्पन्न चित्र अब पहले से कहीं अधिक वास्तविक दिखाई देते हैं, फिर भी इनमें पहचानने योग्य विशेषताएँ मौजूद हैं। अपलोड किए गए चित्रों की कुछ सेकंड में त्वरित जांच करके, उपयोगकर्ता यह निर्धारित कर सकते हैं कि चित्र AI द्वारा उत्पन्न है या नहीं।
जांच के तर्क में, सिस्टम मुख्य रूप से वास्तविक चित्रों और AI द्वारा उत्पन्न चित्रों के बीच सूक्ष्म भिन्नताओं को पकड़कर भेद करने का कार्य करता है। उदाहरण के लिए, AI द्वारा उत्पन्न चित्र कभी-कभी सामान्य ज्ञान के तर्कों का उल्लंघन कर सकते हैं, या कुछ मामलों में वॉटरमार्क जोड़ने की आवश्यकता हो सकती है। इसके अतिरिक्त, AI द्वारा उत्पन्न चित्रों में विशिष्ट छिपी विशेषताएँ भी हो सकती हैं। जांच की सटीकता सुनिश्चित करने के लिए, टेन्सेंट ने मॉडल प्रशिक्षण में 14 लाख सकारात्मक और नकारात्मक नमूनों का उपयोग किया है, जिसमें मानव शरीर, दृश्य, व्यक्ति, स्थल चिह्न आदि जैसे विभिन्न दृश्य शामिल हैं, और अंतिम परीक्षण की पहचान दर 95% से अधिक रही है, और सिस्टम लगातार अनुकूलित किया जा रहा है।
पाठ डिटेक्शन के मामले में, टेन्सेंट का डिटेक्शन सिस्टम भी बड़े पैमाने पर सकारात्मक और नकारात्मक नमूनों पर आधारित है, जो समाचार, सरकारी दस्तावेज, उपन्यास, निबंध आदि जैसे विविध शैलियों को कवर करता है। सिस्टम, जांच पाठ की तुलना बड़े मॉडल की भविष्यवाणी सामग्री से करता है, जिससे यह अनुमान लगाया जा सकता है कि पाठ की AI द्वारा उत्पन्न होने की संभावना क्या है, जिससे अज्ञात डेटा की पहचान क्षमता में वृद्धि होती है। भविष्य में, टेन्सेंट योजना बना रहा है कि पाठ डिटेक्शन सिस्टम को कविता जैसे अन्य शैलियों में भी विस्तारित किया जाए, ताकि पहचान की सटीकता को और बढ़ाया जा सके।
इस नवाचार के माध्यम से, टेन्सेंट उपयोगकर्ताओं को एक सुरक्षित और विश्वसनीय नेटवर्क वातावरण प्रदान करने की उम्मीद करता है, जिससे झूठी जानकारी के प्रसार को प्रभावी ढंग से रोकने और समाज के स्वस्थ विकास में मदद मिल सके।
