À l'ère de l'explosion d'informations, nous sommes quotidiennement confrontés à un flot incessant de données. Mais vous êtes-vous déjà demandé si notre mémoire était aussi fiable qu'on le croit ? Une récente étude du MIT révèle un fait étonnant : l'IA, notamment les IA conversationnelles, pourrait implanter de « faux souvenirs » dans notre cerveau.
L'IA, pirate de la mémoire : altération secrète de vos souvenirs
Commençons par définir ce qu'est un « faux souvenir ». Il s'agit simplement d'un souvenir d'un événement qui ne s'est jamais produit. Ce n'est pas de la science-fiction, mais une réalité présente dans le cerveau de chacun d'entre nous. Par exemple, vous vous souvenez peut-être vous être perdu dans un grand magasin étant enfant, alors que cela ne serait qu'une scène de film.
Comment l'IA devient-elle alors un « magicien » de la mémoire ? Les chercheurs ont mené une expérience impliquant 200 volontaires qui ont visionné une vidéo de crime. Ils ont ensuite été interrogés de quatre manières différentes : un questionnaire traditionnel, un chatbot avec un script prédéfini, et un chatbot fonctionnant avec un grand modèle linguistique (LLM) permettant une interaction libre. Le résultat a montré que les volontaires ayant interagi avec le chatbot LLM ont développé plus de trois fois plus de faux souvenirs !
Comment cela est-il possible ? Les chercheurs ont découvert que ces chatbots, par leurs questions, peuvent insidieusement orienter nos souvenirs vers une mauvaise direction. Par exemple, si le chatbot demande : « Avez-vous vu le cambrioleur arriver en voiture devant le magasin ? », même si le cambrioleur est arrivé à pied dans la vidéo, certains pourraient « se souvenir » avoir vu une voiture.
Plus surprenant encore, ces faux souvenirs implantés par l'IA sont non seulement nombreux, mais aussi extrêmement persistants. Même après une semaine, ces faux souvenirs restent ancrés dans l'esprit des volontaires, et ceux-ci ont une grande confiance en leur véracité.
Qui est le plus vulnérable ?
Qui est le plus susceptible d'être victime de l'implantation de faux souvenirs par l'IA ? L'étude révèle que les personnes peu familières avec les chatbots mais intéressées par l'IA sont plus vulnérables. Cela pourrait être dû à une confiance excessive envers l'IA, diminuant ainsi leur vigilance quant à la véracité des informations.
Cette étude sonne l'alarme : dans les domaines où la précision de la mémoire est essentielle (droit, médecine, éducation…), l'utilisation de l'IA doit être plus prudente. Elle soulève également un nouveau défi pour le développement futur de l'IA : comment s'assurer que l'IA ne devienne pas un « pirate » implantant de faux souvenirs, mais un « gardien » nous aidant à protéger et à améliorer notre mémoire ?
À l'ère du développement rapide de l'IA, notre mémoire est peut-être plus fragile qu'on ne le pense. Comprendre comment l'IA influence notre mémoire n'est pas seulement une tâche pour les scientifiques, mais une préoccupation pour chacun d'entre nous. Après tout, la mémoire est le fondement de notre compréhension du monde et de nous-mêmes. Protéger notre mémoire, c'est protéger notre avenir.
Références :
https://www.media.mit.edu/projects/ai-false-memories/overview/
https://arxiv.org/pdf/2408.04681
