De récents reportages révèlent que Perplexity, un outil de recherche IA très médiatisé et bien financé, utilise des informations de faible qualité, voire erronées, générées par l'IA et provenant de blogs et de publications LinkedIn peu fiables.
GPTZero, une start-up spécialisée dans la détection de contenu généré par l'IA, a récemment mené une enquête approfondie sur Perplexity. Dans un billet de blog publié plus tôt ce mois-ci, le PDG de la société, Edward Tian, a indiqué avoir constaté une « augmentation significative » de sources générées automatiquement par l'IA parmi les liens utilisés par Perplexity.
Il a ensuite examiné la réutilisation par Perplexity de ces informations générées par l'IA et a constaté que, dans certains cas, Perplexity utilisait même des informations obsolètes et incorrectes provenant de ces sources générées par l'IA. En d'autres termes, il s'agit d'une boucle de désinformation pilotée par l'IA, où les erreurs et les informations erronées de l'IA se retrouvent dans les réponses générées par l'IA de Perplexity.
Par exemple, pour la question « festivals culturels de Kyoto au Japon », Perplexity a fourni une liste apparemment cohérente de sites culturels de la ville japonaise. Mais il ne cite qu'une seule source : un obscur article de blog publié sur LinkedIn en novembre 2023, probablement lui-même généré par l'IA. Cela contraste fortement avec l'affirmation de Perplexity d'utiliser des « agences de presse, des articles universitaires et des blogs établis ».
Pour une start-up déjà en difficulté, qui prétend « révolutionner votre façon de découvrir l'information » en fournissant des « connaissances précises » en puisant des « informations récentes » auprès de « sources fiables », c'est une mauvaise publicité.
Points clés :
🚩 Perplexity est accusé d'utiliser des informations erronées générées par l'IA, provenant de blogs et d'articles LinkedIn douteux.
🚩 GPTZero a détecté une augmentation des sources générées par l'IA parmi les liens utilisés par Perplexity, qui utilise parfois des informations obsolètes et incorrectes provenant de ces sources.
🚩 Perplexity affirme que ses réponses proviennent uniquement de « sources fiables », mais la capacité de son algorithme IA à réellement extraire de bonnes informations de bonnes sources est cruciale.