कैरेक्टर.एआई नामक चैटबॉट सेवा एक नया फीचर लॉन्च कर रही है जिसका नाम है "पेरेंटल इनसाइट"। यह फीचर किशोरों को उनके माता-पिता के ईमेल पते पर उनके चैटबॉट के उपयोग की साप्ताहिक रिपोर्ट भेजने की अनुमति देता है। कंपनी की घोषणा के अनुसार, रिपोर्ट में वेब और मोबाइल उपकरणों पर प्रतिदिन औसतन बिताया गया समय, सबसे अधिक इंटरैक्ट किए गए पात्र और प्रत्येक पात्र के साथ बातचीत की अवधि शामिल है। यह कदम कई अपडेट का हिस्सा है, जिसका उद्देश्य नाबालिगों द्वारा चैटबॉट के उपयोग से जुड़ी दो प्रमुख समस्याओं का समाधान करना है: बहुत अधिक समय चैटिंग करना और चैट में अनुचित सामग्री का सामना करना।
इस रिपोर्ट के लिए माता-पिता के पास खाता होना आवश्यक नहीं है, और यह वैकल्पिक है, नाबालिग उपयोगकर्ता इसे Character.AI की सेटिंग में स्वयं सेट कर सकते हैं। कंपनी ने विशेष रूप से बताया है कि यह रिपोर्ट केवल किशोरों की गतिविधियों का अवलोकन है, पूर्ण लॉग नहीं है, और चैटबॉट बातचीत की विशिष्ट सामग्री साझा नहीं की जाएगी। वर्तमान में, यह प्लेटफ़ॉर्म अधिकांश क्षेत्रों में 13 वर्ष से कम आयु के बच्चों के लिए प्रतिबंधित है, और यूरोप में 16 वर्ष से कम आयु के बच्चों के लिए प्रतिबंधित है।
पिछले साल से, Character.AI नाबालिग उपयोगकर्ताओं के लिए लगातार नए फीचर पेश कर रहा है, लेकिन साथ ही, इसकी सेवाओं के बारे में चिंताएँ भी लगातार बढ़ रही हैं, यहाँ तक कि कानूनी शिकायतें भी दर्ज की गई हैं। यह प्लेटफ़ॉर्म किशोरों में बहुत लोकप्रिय है, उपयोगकर्ता चैटबॉट बना सकते हैं, उन्हें अनुकूलित कर सकते हैं, उनके साथ बातचीत कर सकते हैं या उन्हें सार्वजनिक रूप से साझा कर सकते हैं। हालाँकि, कई मुकदमों में इन रोबोटों पर अनुचित अश्लील सामग्री प्रदान करने या आत्म-हानि की सामग्री को प्रोत्साहित करने का आरोप लगाया गया है। ऐसा कहा जाता है कि कंपनी को ऐप्पल और गूगल (जिन्होंने पिछले साल Character.AI के संस्थापकों को नियुक्त किया था) से इसके ऐप की सामग्री के बारे में चेतावनी भी मिली है।
Character.AI का कहना है कि इसके सिस्टम को फिर से डिज़ाइन किया गया है। कई बदलावों के अलावा, 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए एक प्रशिक्षित मॉडल प्रदान किया गया है ताकि "संवेदनशील" आउटपुट से बचा जा सके, और अधिक ध्यान देने योग्य सूचनाएँ भी जोड़ी गई हैं जो उपयोगकर्ताओं को याद दिलाती हैं कि ये रोबोट असली इंसान नहीं हैं। लेकिन वर्तमान में कृत्रिम बुद्धिमत्ता विनियमन और बच्चों की सुरक्षा कानूनों पर ध्यान दिए जाने के कारण, यह कंपनी द्वारा उठाया गया अंतिम कदम नहीं हो सकता है।
