फ्लोरिडा, अमेरिका में एक व्यक्ति को बाल पोर्नोग्राफी सामग्री उत्पन्न करने के लिए आर्टिफिशियल इंटेलिजेंस का उपयोग करने के आरोप में गिरफ्तार किया गया है, जिसके खिलाफ 20 तक अश्लीलता के आरोप लग सकते हैं। यह व्यक्ति किक नामक सोशल ऐप पर AI इमेज जेनरेटर का उपयोग करके बनाई गई बाल पोर्नोग्राफी छवियों का वितरण करता था, जिससे व्यापक जागरूकता का प्रसंग बना। इस मामले में जनरेटिव आर्टिफिशियल इंटेलिजेंस के दुरुपयोग का उल्लेख है, जिससे सभी स्तरों के सांसदों द्वारा अनुचित सामग्री के प्रसार पर रोक लगाने के लिए कानून बनाने का प्रवर्तन किया जा रहा है। पिछले वर्ष, नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चाइल्ड्रेन ने संबंधित 4700 शिकायतें प्राप्त की थीं, जिनमें वास्तविक बच्चों के गहरे फेक इमेज बनाने के लिए जनरेटिव AI के उपयोग के जरिए जबरन वसूली करना शामिल है।

{BeFake एक AI संवर्धित सोशल ऐप है, जो उपयोगकर्ताओं को सोशल प्लेटफॉर्म पर झूठे जीवन दृश्य प्रस्तुत करने की अनुमति देता है। उपयोगकर्ता ऐप को स्वचालित रूप से झूठे टेम्पलेट उत्पन्न करने या अपने द्वारा प्रस्तुत किए जाने वाले झूठे दृश्य को इनपुट करने का विकल्प चुन सकते हैं। BeFake उपयोगकर्ताओं की घमंड की आवश्यकताओं को पूरा करता है, और सोशल प्लेटफॉर्म पर दिखावे और दिखावे की आवश्यकताओं को संतुष्ट करता है।}