Character AI fait sensation auprès des jeunes Américains. Cette application de chatbot IA, lancée en 2022 par Noam Shazeer et Daniel De Freitas, deux anciens employés de Google Brain, permet aux utilisateurs d'interagir avec divers personnages, des personnages fictifs aux personnalités historiques, en passant par des personnalités publiques contemporaines.
Character AI compte 20 millions d'utilisateurs actifs mensuels, traitant jusqu'à 20 000 requêtes par seconde, soit 20 % du volume de recherche de Google. Plus d'un million de personnes sur Reddit partagent leurs personnages créés et leurs expériences d'échange. Cependant, la popularisation de cette technologie soulève des questions, notamment la dépendance affective et l'addiction des adolescents à Character AI.
57,07 % des utilisateurs sont des adolescents âgés de 18 à 24 ans, avec une durée d'utilisation moyenne de 2 heures. Dans la communauté Reddit, de nombreuses personnes affirment qu'il est plus facile de parler à un robot IA qu'à une personne réelle, et les publications concernant l'addiction sont omniprésentes. Certains utilisateurs présentent même de fortes « réactions de sevrage » lorsque le serveur est en panne.
Les chatbots de Character AI, entraînés sur un grand nombre de données textuelles et constamment améliorés grâce aux interactions avec les utilisateurs, deviennent de plus en plus réalistes. Par exemple, le personnage de « psychologue » créé par l'utilisateur néo-zélandais Sam Zaia, est entraîné grâce à ses connaissances professionnelles et offre un soutien psychologique réel aux utilisateurs.
Cependant, la psychothérapeute Theresa Plewman remet en question l'efficacité de Character AI, estimant qu'il ne peut pas remplacer la réaction et le traitement humains. Le Dr Kelly Merrill Jr. de l'université de Cincinnati estime quant à lui que les chatbots jouent un rôle positif dans le soutien à la santé mentale, mais met en garde contre les limites et les risques potentiels de l'IA.
Le professeur Rocky Scopelliti, futurologue, prédit que des outils comme Character AI se généraliseront et que l'IA jouera un rôle plus important dans le monde émotionnel et mental des humains. Il appelle cependant à une régulation pour faire face aux dilemmes éthiques et sociaux potentiels de l'IA.
La popularité de Character AI nous montre le potentiel des technologies d'IA en matière de soutien émotionnel, mais nous oblige également à réfléchir à la manière de profiter des avantages de la technologie tout en évitant une dépendance excessive. Il ne s'agit pas seulement d'un problème technique, mais aussi d'un problème de société que nous devons affronter et résoudre ensemble.