L'intelligence artificielle (IA) connaît un développement fulgurant, mais ses risques potentiels ne doivent pas être négligés. Yoshua Bengio, considéré comme le « père de l'IA », a récemment exprimé ses inquiétudes concernant l'évolution de l'IA lors d'une interview.
Bengio est un informaticien canadien. À 60 ans, il a consacré sa vie à la recherche sur les réseaux neuronaux et les algorithmes d'apprentissage profond, jetant les bases des modèles d'IA actuels tels que ChatGPT et Claude. Lauréat du prix Turing en 2018 et informaticien le plus cité au monde en 2022, l'influence de Bengio dans le domaine de l'IA est indéniable.
Source : Image générée par IA, fournisseur de services d'autorisation d'images : Midjourney
Cependant, ce pionnier de l'IA lance aujourd'hui un avertissement. Il souligne : « L'intelligence signifie la puissance, et celui qui contrôle cette puissance – qu'elle soit humaine ou supérieure – deviendra extrêmement puissant. » Bengio estime qu'il faut faire preuve d'une extrême prudence avant de créer des technologies susceptibles de concentrer dangereusement le pouvoir.
Bengio a notamment mentionné les menaces potentielles de l'IA. Il a mis en garde contre le fait que si l'IA tombait entre les mains de « mauvais acteurs », elle pourrait être utilisée par des terroristes ou des États cherchant à saper la démocratie. Plus inquiétant encore, les scientifiques soulignent qu'avec les méthodes d'entraînement actuelles, il est possible que nous ne puissions pas empêcher ces systèmes de devenir autonomes et de se fixer des objectifs d'autoprotection, ce qui nous ferait perdre le contrôle sur eux.
Bien que les investisseurs soient enthousiastes à l'égard du secteur de l'IA, comme en témoigne la hausse de 172 % du cours de l'action Nvidia (NVDA) depuis le début de l'année, l'avertissement de Bengio ne doit pas être ignoré. Il appelle à une prise en compte approfondie des risques potentiels lors du développement de systèmes d'IA puissants, afin de garantir que le progrès technologique ne menace pas la société humaine.
À l'heure du développement rapide de l'IA, les propos de Bengio sonnent comme un avertissement. La manière de concilier le progrès technologique et le contrôle efficace des risques constituera un défi majeur pour l'ensemble du secteur de l'IA.
