गूगल के शोधकर्ताओं ने चेतावनी दी है कि जनरेटिव आर्टिफिशियल इंटेलिजेंस (GenAI) फर्जी सामग्री के माध्यम से इंटरनेट को खतरे में डाल रहा है। गूगल इस 'सत्य और असत्य के युद्ध' में डबल भूमिका निभा रहा है: न केवल यह एक प्रर्वतक है बल्कि एक निर्माता भी है। एआई द्वारा प्रदान की गई गलत जानकारी, जैसे 'पिज़्ज़ा पर गोंद लगाना' और 'पत्थर खाना' जैसी बेहूदा सलाह, अंततः मैन्युअल रूप से हटाई जानी चाहिए। दुरुपयोग के तरीकों में मानव छवियों में छेड़छाड़ और सबूतों का फर्जी बनाना शामिल है, जिसका उद्देश्य अक्सर जनमत को प्रभावित करना, धोखाधड़ी करना या मुनाफा कमाना है। हालांकि जोखिम अभी जीवन के लिए खतरा नहीं बना है, यह बढ़ता जा रहा है, और दुरुपयोग के मामले प्रणाली के सामान्य उपयोग के सामान्य कार्यों का 90% हिस्सा हैं।