Lors d'une soirée captivante, Oprah Winfrey a présenté une émission spéciale sur l'intelligence artificielle (IA), intitulée « L'IA et notre avenir ». Cet événement a réuni des personnalités de premier plan, dont Sam Altman, PDG d'OpenAI, Marques Brownlee, influenceur technologique, et Christopher Wray, directeur du FBI. L'ambiance générale était plutôt prudente, comme si chacun jouait sur des œufs.
Oprah a commencé en soulignant que le « démon » de l'IA était sorti de sa boîte, ce qui pouvait être aussi bien une bonne nouvelle qu'une mauvaise. Elle a rappelé qu'il fallait apprendre à coexister avec cette technologie. « L'IA dépasse notre contrôle et notre compréhension est limitée, mais elle est là, et nous devons nous demander si elle est notre alliée ou notre adversaire… Nous sommes les êtres les plus adaptables de la planète, nous nous adapterons à nouveau. Mais restons réalistes, les risques ne sont pas à prendre à la légère. »
Source : Image générée par IA, Midjourney
Premier invité interrogé, Altman a affirmé avec confiance que l'IA actuelle est capable de comprendre les concepts présents dans les données sur lesquelles elle est entraînée. « Nous montrons au système mille mots et lui demandons ce qui va se passer ensuite », a-t-il expliqué. « Le système apprend par la prédiction et comprend ainsi les concepts sous-jacents. » Cependant, de nombreux experts ne partagent pas cet avis.
Des systèmes d'IA comme ChatGPT prédisent effectivement le mot le plus probable pour la phrase suivante, mais ce ne sont en réalité que des machines statistiques, dépourvues de véritable intention, qui font des suppositions intelligentes basées sur des modèles de données.
Même si Altman a peut-être surestimé les capacités des systèmes d'IA actuels, il a souligné l'importance de tester la sécurité de ces systèmes. « Nous devons amener les gouvernements à réfléchir à la manière de tester la sécurité de ces systèmes, comme nous le faisons pour les avions ou les nouveaux médicaments. » Il a révélé qu'il était en contact presque quotidien avec des représentants gouvernementaux.
L'appel d'Altman à la réglementation est peut-être motivé par des intérêts personnels, OpenAI s'étant opposée au projet de loi californien SB1047 sur la sécurité de l'IA, affirmant qu'il « tuerait l'innovation ». Cependant, d'anciens employés d'OpenAI et des experts en IA comme Geoffrey Hinton ont soutenu ce projet de loi, estimant qu'il apporterait les garanties de sécurité nécessaires au développement de l'IA.
Plus tard dans l'émission, Oprah a demandé à Altman pourquoi les gens devraient lui faire confiance. Altman a esquivé la question, déclarant que leur objectif était d'établir progressivement la confiance. Il avait auparavant clairement indiqué qu'il ne fallait pas faire confiance uniquement à lui ou à une seule personne pour garantir que l'IA serve l'humanité.
La discussion s'est ensuite orientée vers les deepfakes. Marques Brownlee a montré une comparaison entre le générateur vidéo d'IA Sora d'OpenAI et les anciens générateurs d'images IA pour illustrer le réalisme des médias synthétiques. Les résultats ont montré que les échantillons de Sora étaient exceptionnels, démontrant les progrès rapides dans ce domaine. « Même si on peut encore voir des défauts », a déclaré Brownlee, mais Oprah a trouvé que cela semblait très réaliste.
Les deepfakes ont conduit à une conversation avec le directeur du FBI, Wray, qui a raconté sa première rencontre avec les deepfakes améliorés par l'IA. « J'étais dans une salle de réunion, et mes collègues du FBI m'ont montré comment créer des deepfakes améliorés par l'IA », a-t-il raconté. « Ils ont créé une vidéo de moi disant des choses que je n'avais jamais dites. » Il a souligné que les extorsions assistées par l'IA étaient en forte augmentation, avec une hausse de 178 % entre 2022 et 2023.
Wray a décrit le processus de cette escroquerie : se faire passer pour un pair pour attirer les adolescents, puis les faire chanter avec des images générées par l'IA. « En réalité, c'est un type assis au Nigeria qui, une fois qu'il a une vraie photo, l'utilise pour faire des menaces. »
Il a également évoqué le problème de la désinformation lors de la prochaine élection présidentielle américaine, soulignant qu'il n'y avait pas lieu de paniquer, mais que « chaque Américain » devait être vigilant et conscient que des « mauvais acteurs » pourraient utiliser l'IA pour nous attaquer.
Ensuite, Oprah a eu une conversation avec Bill Gates, le fondateur de Microsoft, qui s'est montré optimiste quant aux perspectives de l'IA dans les domaines de l'éducation et de la santé. Il imagine l'IA comme un tiers lors des rendez-vous médicaux, chargée de prendre des notes et de suggérer des prescriptions, permettant ainsi aux médecins d'interagir davantage avec les patients au lieu de regarder un écran d'ordinateur.
Cependant, Gates semble avoir négligé les biais potentiels liés à un entraînement inadéquat. Une étude récente a montré que les systèmes de reconnaissance vocale des principales entreprises technologiques faisaient deux fois plus d'erreurs lorsqu'ils identifiaient des locuteurs noirs que des locuteurs blancs. D'autres études montrent que les systèmes d'IA peuvent renforcer de vieilles croyances erronées, telles que de fausses idées sur les différences biologiques entre les Noirs et les Blancs, ce qui peut conduire à des erreurs de diagnostic chez les médecins.
Dans le domaine de l'éducation, Gates pense que l'IA peut offrir une expérience d'apprentissage « toujours disponible » et savoir comment motiver les élèves. Cependant, toutes les écoles ne partagent pas cet optimisme.
L'été dernier, de nombreuses écoles ont rapidement interdit l'utilisation de ChatGPT par crainte de plagiat et de désinformation. Même si certaines écoles ont ensuite réautorisé son utilisation, de nombreux doutes persistent quant au potentiel de l'IA. Une enquête a révélé que plus de la moitié des enfants ont déclaré avoir vu des pairs utiliser l'IA de manière inappropriée, par exemple pour créer de fausses informations ou images crédibles afin de nuire à autrui.
L'UNESCO a également appelé les gouvernements à réglementer l'utilisation de l'IA dans l'éducation à la fin de l'année dernière, notamment en mettant en place des limites d'âge et des mesures de protection des données pour les utilisateurs.
Grâce à ce dialogue approfondi sur l'IA, les téléspectateurs ont pu mieux comprendre le développement rapide de la technologie et les risques potentiels, ce qui a suscité une réflexion profonde sur l'avenir de l'humanité et de l'IA.
