Recentemente, usuários do ChatGPT descobriram um fenômeno extremamente estranho: ao serem questionados sobre nomes específicos como "David Mayer", o chatbot trava ou se recusa a responder imediatamente. Esse comportamento peculiar rapidamente gerou especulações e discussões generalizadas.
Após investigação, descobriu-se que esses nomes que não podem ser mencionados incluem Brian Hood, Jonathan Turley e David Faber. À primeira vista, eles parecem não ter relação, mas uma análise mais aprofundada revela que todos estão ligados a eventos públicos específicos ou questões de privacidade.
Tomando Brian Hood como exemplo, este prefeito australiano acusou o ChatGPT de erroneamente associá-lo a crimes ocorridos décadas atrás. Jonathan Turley é um especialista jurídico que sofreu com o assédio de "falsos alarmes". David Faber é um conhecido repórter da CNBC.
Nota da imagem: Imagem gerada por IA, fornecida pelo Midjourney.
O mais notável é o nome David Mayer. A investigação revelou que ele era um acadêmico britânico-americano falecido que, por muitos anos, foi atormentado por um criminoso procurado que usava seu nome como pseudônimo.
A OpenAI finalmente respondeu ao incidente, admitindo que existe uma ferramenta interna de privacidade que marca certos nomes específicos. No entanto, a empresa se recusou a fornecer mais detalhes, alegando considerações de privacidade.
A explicação mais provável por trás desse incidente é que o modelo de IA mantém internamente uma lista especial, aplicando um mecanismo de tratamento especial a certos nomes. Esse mecanismo pode ter causado a falha do sistema de bate-papo devido a uma falha técnica.
Especialistas consideram isso mais uma demonstração da complexidade dos sistemas de inteligência artificial. Isso nos lembra que, embora a IA pareça onipotente, ela ainda é um sistema impulsionado por códigos e regras complexos, sujeito a falhas técnicas inesperadas a qualquer momento.
Para os usuários, este incidente comprova mais uma vez uma verdade simples: verificar as informações diretamente é sempre a maneira mais confiável de obtê-las. Por mais inteligente que seja, a IA é apenas uma ferramenta que precisa de constantes melhorias e correções.
