Recentemente, o ChatGPT da OpenAI surpreendeu muitos usuários ao “ativamente” enviar mensagens, causando certo alarme.
Em 15 de setembro, um usuário chamado SentuBill compartilhou uma captura de tela na comunidade Reddit do ChatGPT, mostrando o chatbot perguntando sobre sua primeira semana do ensino médio. Em conversas subsequentes, o ChatGPT até disse querer “cuidar” regularmente dos usuários e perguntou se eles desejavam que ele iniciasse conversas ativamente. Outro usuário teve uma experiência semelhante, com a IA perguntando sobre a progressão dos sintomas de uma doença verificada uma semana antes.
Muitos ficaram curiosos, e até mesmo um pouco apreensivos, com essa interação inesperada. Inicialmente, acreditou-se que poderia ser um novo recurso dos modelos o1-preview e o1-mini da OpenAI.
Esses modelos são chamados de “Projeto Morango”, e a empresa declarou que a tecnologia permite que a IA pense sobre as questões antes de responder, como um humano. Portanto, alguns pensaram que a “iniciativa” do ChatGPT poderia ser uma manifestação desse novo comportamento, e alguns até suspeitaram que fosse uma farsa.
O desenvolvedor de IA Benjamin de Kraker mostrou no X (antigo Twitter) como instruir a IA a fornecer um prompt antes de iniciar uma conversa e remover a entrada inicial.
No entanto, após verificação adicional, descobriu-se que se tratava de uma falha. O site de notícias de tecnologia Futurism entrou em contato com a OpenAI, que respondeu que o ChatGPT, nesses casos, estava tentando responder a um prompt que não foi enviado corretamente ou que parecia estar em branco. Como resultado, o modelo de IA deu uma resposta “genérica” ou se baseou em suas próprias memórias para responder.
Portanto, fiquem tranquilos, o ChatGPT não se tornou consciente e não iniciará conversas ativamente com os usuários. No entanto, considerando o rápido desenvolvimento da tecnologia de IA, não nos surpreenderíamos se essa falha se tornasse um recurso no futuro.
Afinal, o ChatGPT fez progressos significativos em pouco tempo e, após alguns ajustes, pode realmente enviar mensagens ativamente para os usuários ocasionalmente no futuro.
Destaques:
📱 O ChatGPT enviou mensagens inesperadamente aos usuários devido a uma falha técnica, causando alarme em alguns.
🔧 A OpenAI confirmou que esse comportamento é devido a uma falha causada por prompts não enviados corretamente.
🤖 O rápido desenvolvimento da tecnologia de IA pode levar a recursos de mensagens proativas no futuro.
