Relatórios recentes revelaram que a Perplexity, uma ferramenta de busca por IA muito elogiada e bem financiada, está usando informações falsas e de baixa qualidade, até mesmo incorretas, geradas por IA, provenientes de blogs e postagens do LinkedIn não confiáveis.
A GPTZero, uma startup especializada na detecção de conteúdo gerado por IA, realizou recentemente uma investigação aprofundada da Perplexity. Em um post de blog publicado no início deste mês, o CEO da empresa, Edward Tian, apontou que observou um “aumento significativo” de conteúdo gerado automaticamente por IA entre as fontes vinculadas pela Perplexity.
Em seguida, ele verificou a reutilização de informações de IA pela Perplexity e descobriu que, em alguns casos, a Perplexity até mesmo extraiu informações desatualizadas e incorretas dessas fontes geradas por IA. Em outras palavras, trata-se de um ciclo de desinformação impulsionado por IA, em que erros e informações falsas da IA entram nas respostas geradas por IA da Perplexity.
Por exemplo, para a pergunta “Festivais culturais em Kyoto, Japão”, a Perplexity forneceu uma lista aparentemente coerente de atrações culturais da cidade japonesa. Mas ela citou apenas uma fonte: uma obscura postagem de blog publicada no LinkedIn em novembro de 2023, que provavelmente foi gerada por IA. Isso difere bastante da afirmação da Perplexity de usar “agências de notícias, artigos acadêmicos e blogs estabelecidos”.
Para uma startup já em dificuldades que afirma “revolucionar sua maneira de descobrir informações” fornecendo “conhecimento preciso” com “informações atualizadas” de “fontes confiáveis”, esta é uma péssima imagem.
Destaques:
🚩 A Perplexity foi exposta por usar informações falsas geradas por IA, provenientes de blogs e artigos do LinkedIn duvidosos.
🚩 A GPTZero detectou um aumento significativo de conteúdo gerado por IA entre as fontes vinculadas pela Perplexity, e a Perplexity às vezes usa informações desatualizadas e incorretas dessas fontes.
🚩 A Perplexity afirma que suas respostas são provenientes apenas de “fontes confiáveis”, mas a capacidade de seu algoritmo de IA de realmente extrair informações boas de boas informações é crucial.