जनरेटिव आर्टिफिशियल इंटेलिजेंस के व्यावसायीकरण के साथ, इंटरनेट पर फर्जी कंटेंट की संख्या तेजी से बढ़ी है। पहचान प्रमाणीकरण प्लेटफार्म Sumsub के डेटा के अनुसार, 2023 से 2024 तक, वैश्विक डीपफ़ेक की संख्या में चार गुना वृद्धि हुई है। 2024 में, डीपफ़ेक सभी धोखाधड़ी के 7% के लिए जिम्मेदार होगा, जिसमें पहचान की चोरी, खाता खुद लेना और जटिल सामाजिक इंजीनियरिंग गतिविधियों सहित कई रूप शामिल हैं। इस समस्या का समाधान करने के लिए, Meta ने एक नया टूल - Meta Video Seal पेश किया है, जिसका उद्देश्य AI द्वारा जनरेट किए गए वीडियो में अज्ञात डाटा जोड़कर नकली कंटेंट को पहचानना है।