Recentemente, pesquisadores de IA conseguiram, através de um "ataque de poesia", revelar as fontes de dados de treinamento do ChatGPT da OpenAI. A técnica envolveu a repetição de palavras específicas, fazendo com que o ChatGPT vazasse informações pessoais, incluindo números de telefone e endereços de e-mail.
A vulnerabilidade foi relatada à OpenAI em 30 de agosto, e ainda não houve comentários adicionais. A pesquisa apela por um uso mais sustentável da IA, apontando o enorme consumo de energia na geração de texto e imagens. O estudo lembra a necessidade de cautela no tratamento da privacidade e do consumo de energia ao impulsionar o desenvolvimento da IA.
