हाल ही में, Character.AI और इसके संस्थापक Noam Shazeer तथा Daniel De Freitas, साथ ही गूगल, एक किशोर आत्महत्या घटना के कारण मुकदमे का सामना कर रहे हैं। मुकदमे की दायरक, उस किशोर की माँ Megan Garcia हैं, जिन्होंने अपनी शिकायत में इन कंपनियों पर उत्पाद डिज़ाइन में गंभीर लापरवाही का आरोप लगाया है, और यह कि उन्होंने विशेष रूप से बच्चों को भ्रामक रूप से लक्षित किया। चित्र स्रोत नोट: चित्र AI द्वारा निर्मित है, चित्र अधिकार सेवा प्रदाता Midjourney द्वारा