Un nuevo informe revela que Perplexity, la herramienta de búsqueda con IA que ha recibido mucha atención y financiación, está utilizando información basura de baja calidad, incluso errónea, generada por IA, procedente de blogs y publicaciones de LinkedIn poco fiables.
GPTZero, una startup especializada en la detección de contenido generado por IA, realizó recientemente una investigación exhaustiva de Perplexity. El CEO de la compañía, Edward Tian, señaló en una entrada de blog a principios de este mes que había observado un "aumento significativo" de fuentes generadas automáticamente por IA en los enlaces de Perplexity.
Posteriormente, examinó la reutilización de esta información por parte de la IA de Perplexity y descubrió que, en algunos casos, Perplexity incluso extraía información desactualizada e incorrecta de estas fuentes generadas por IA. En otras palabras, se trata de un bucle de desinformación impulsado por la IA, donde los errores y la información inventada de la IA se incorporan a las respuestas generadas por la IA de Perplexity.
Por ejemplo, para la consulta "festivales culturales en Kioto, Japón", Perplexity proporcionó una lista aparentemente coherente de lugares culturales de la ciudad japonesa. Pero solo citó una fuente: una oscura entrada de blog publicada en LinkedIn en noviembre de 2023, que probablemente fue generada por IA. Esto contrasta con la afirmación de Perplexity de utilizar "agencias de noticias, artículos académicos y blogs establecidos".
Esta es una mala imagen para una startup ya en dificultades que afirma "revolucionar la forma en que descubres información" proporcionando "conocimiento preciso" obteniendo "información actualizada" de "fuentes fiables".
Puntos clave:
🚩 Perplexity ha sido acusada de citar información basura generada por IA errónea, procedente de blogs y publicaciones de LinkedIn sospechosas.
🚩 GPTZero detectó un aumento significativo de fuentes generadas por IA en los enlaces de Perplexity, y Perplexity a veces utiliza información desactualizada e incorrecta de estas fuentes.
🚩 Perplexity afirma que sus respuestas provienen únicamente de "fuentes fiables", pero la capacidad de su algoritmo de IA para discernir la información buena de la mala es crucial.