Recentemente, um usuário da plataforma de mídia social X descobriu que a versão mais recente do ChatGPT, o GPT-4o, se recusou a gerar uma imagem de uma rosa, alegando "Não consigo gerar a imagem desta rosa porque não atende às nossas políticas de conteúdo". Essa recusa inesperada chamou a atenção e gerou discussões entre muitos usuários, que começaram a investigar as razões por trás disso e até mesmo a procurar maneiras de contornar essa restrição.
Para verificar esse fenômeno, os usuários realizaram uma série de experimentos. Alguns usuários fizeram perguntas em chinês e inglês, e até tentaram substituir "rosa" por símbolos especiais, mas sem sucesso. Mesmo o pedido para gerar uma rosa amarela foi rejeitado. Ao tentar outras flores, como peônias, o GPT-4o conseguiu concluir a tarefa sem esforço, mostrando que sua capacidade de geração de imagens não tinha problemas.
Com a aprofundamento da discussão, os usuários apresentaram várias hipóteses. Alguns acreditam que a palavra "rosa" pode ter sido incluída na lista negra por algum motivo; outros acham que o ChatGPT pode ter interpretado "rosa" como uma alusão implícita, impedindo-o de gerar a imagem. Mais interessante ainda, alguns usuários brincaram que o excesso de solicitações semelhantes durante o Dia dos Namorados pode ter levado o sistema a restringir a palavra "rosa".
Em testes posteriores, os usuários descobriram que, se substituíssem "rosa" pelo plural ou não mencionassem diretamente "rosa", mas descrevessem suas características, o GPT-4o conseguiria gerar a imagem da rosa. Essa descoberta levou a uma discussão aprofundada sobre o mecanismo de filtragem de conteúdo de IA, sugerindo que pode ter havido uma codificação rígida nas políticas de conteúdo pelos desenvolvedores, levando a esse erro de julgamento peculiar.
Simultaneamente, essa palavra proibida do ChatGPT levou as pessoas a fazerem associações, com situações semelhantes ocorrendo anteriormente, em que o sistema respondia de forma vaga quando questionado sobre certos nomes específicos, mostrando uma evasão de conteúdo específico. Embora a "geração de uma rosa" se torne um novo tabu, outros chatbots de IA, como Gemini e Grok, ainda conseguem gerar imagens de rosas, mostrando as diferenças na restrição de conteúdo entre as plataformas.
Com o desenvolvimento desse evento, surgiram mais questionamentos sobre a razoabilidade e transparência da revisão de conteúdo de IA, e também a expectativa de que a IA futura possa atender às diversas necessidades dos usuários dentro de limites razoáveis.
