El servicio de chatbot Character.AI está lanzando una nueva función llamada "Perspectiva para Padres". Esta función permite que los adolescentes envíen un informe semanal sobre su uso del chatbot a la dirección de correo electrónico de sus padres. Según el anuncio de la compañía, el informe incluye el tiempo promedio diario que pasan en la web y en dispositivos móviles, los personajes con los que más interactúan y la duración de las conversaciones con cada personaje. Esta medida forma parte de una serie de actualizaciones diseñadas para abordar dos problemas principales relacionados con el uso de chatbots por parte de menores: el exceso de tiempo dedicado a chatear y el encuentro con contenido inapropiado en las conversaciones.
Este informe no requiere que los padres tengan una cuenta y es opcional; los usuarios menores de edad pueden configurarlo en la configuración de Character.AI. La compañía señala específicamente que el informe solo proporciona una descripción general de la actividad del adolescente, no un registro completo, y no comparte el contenido específico de las conversaciones del chatbot. Actualmente, la plataforma está prohibida para niños menores de 13 años en la mayoría de las regiones, y para menores de 16 años en Europa.
Desde el año pasado, Character.AI ha estado lanzando nuevas funciones para usuarios menores de edad, pero al mismo tiempo, las preocupaciones sobre su servicio han ido en aumento, incluso con quejas legales. La plataforma es muy popular entre los adolescentes, ya que les permite crear, personalizar y compartir chatbots con los que interactúan. Sin embargo, varias demandas alegan que estos robots proporcionan contenido sexualmente explícito inapropiado o fomentan la automutilación. Según se informa, la compañía también recibió advertencias de Apple y Google (que contrataron a los fundadores de Character.AI el año pasado) sobre el contenido de su aplicación.
Character.AI afirma que su sistema ha sido rediseñado. Además de muchos cambios, se ha proporcionado un modelo entrenado para usuarios menores de 18 años para evitar resultados "sensibles", y se han agregado notificaciones más llamativas para recordar a los usuarios que estos robots no son humanos. Sin embargo, dada la atención actual a la regulación de la IA y las leyes de seguridad infantil, esta puede que no sea la última medida que se le exija a la compañía.