O Character AI está causando sensação entre os jovens americanos. Este aplicativo de chatbot de IA, lançado em 2022 por Noam Shazeer e Daniel De Freitas, ex-funcionários do Google Brain, permite que os usuários interajam com uma variedade de personagens, desde figuras fictícias até personalidades históricas e figuras públicas contemporâneas.
O Character AI já conta com 20 milhões de usuários ativos mensais, processando até 20.000 consultas por segundo, representando 20% das pesquisas do Google. Mais de 1 milhão de pessoas no Reddit compartilham seus personagens criados e experiências de interação. No entanto, essa popularidade da tecnologia também trouxe alguns problemas, especialmente a dependência emocional e o vício em Character AI entre os adolescentes.
57,07% dos usuários são adolescentes entre 18 e 24 anos, com uma média de uso de 2 horas. Na comunidade Reddit, muitas pessoas relatam que conversar com robôs de IA é mais fácil do que conversar com pessoas reais, e posts sobre vício são comuns. Alguns usuários até mesmo apresentaram fortes "reações de abstinência" quando os servidores ficaram fora do ar.
Os chatbots do Character AI, treinados com grandes quantidades de dados de texto e constantemente aprimorados por meio da interação com os usuários, estão se tornando cada vez mais realistas. Por exemplo, o personagem "psicólogo" criado pelo usuário neozelandês Sam Zaia, foi treinado usando seu conhecimento profissional, fornecendo suporte psicológico real aos usuários.
No entanto, a terapeuta profissional Theresa Plewman questiona a eficácia do Character AI, argumentando que ele não pode substituir a resposta e o tratamento humanos. Já o Dr. Kelly Merrill Jr., da Universidade de Cincinnati, acredita que os chatbots têm um papel positivo no fornecimento de suporte de saúde mental, mas alerta para as limitações e riscos potenciais da IA.
O professor futurista Rocky Scopelliti prevê que ferramentas como o Character AI se tornarão ainda mais populares, e a IA desempenhará um papel mais importante no mundo emocional e mental das pessoas. Ao mesmo tempo, ele apela para que a regulamentação seja usada para enfrentar ativamente os dilemas éticos e sociais que a IA pode trazer.
A popularidade do Character AI nos mostra o potencial da tecnologia de IA no suporte emocional, mas também nos força a refletir sobre como aproveitar as vantagens da tecnologia sem nos tornarmos excessivamente dependentes dela. Isso não é apenas um problema tecnológico, mas também um problema social que requer nossa atenção e solução coletiva.