Le professeur Geoffrey Hinton, considéré comme le "parrain de l'intelligence artificielle", a mis en garde contre le risque d'extinction de l'humanité par l'IA dans les dix prochaines années. Ce scientifique informaticien, qui a reconnu regretter sa contribution à la création de cette technologie, a comparé le développement rapide de l'IA à la révolution industrielle, mais a averti que cette fois, les machines pourraient "tout contrôler".

Ce scientifique informaticien britannique de 77 ans, lauréat du prix Nobel de physique pour ses travaux pionniers dans le domaine de l'IA, appelle les gouvernements à renforcer la réglementation des entreprises d'intelligence artificielle. Le professeur Hinton avait précédemment estimé à 10 % la probabilité que l'IA provoque l'extinction de l'humanité dans les 30 prochaines années.

Lors d'une interview sur le programme Today de BBC Radio 4, lorsqu'on lui a demandé si quelque chose avait changé son analyse, il a répondu : « En fait, non. Je pense que le délai est de 10 à 20 ans, voire moins. Nous n'avons jamais eu affaire à quelque chose de plus intelligent que nous. Combien d'exemples connaissez-vous où quelque chose de plus intelligent est contrôlé par quelque chose de moins intelligent ? Il y en a très peu. »

Le parrain des robots IA

Dans les années 1980, le professeur Hinton a inventé une méthode permettant de rechercher de manière autonome les attributs des données et d'identifier des éléments spécifiques sur des images, jetant ainsi les bases de l'intelligence artificielle moderne. Il a déclaré que le développement de cette technologie était « beaucoup plus rapide qu'il ne l'avait prévu » et pourrait réduire les humains à un rôle équivalent à celui d'un « enfant de trois ans », l'IA devenant alors « l'adulte ».

Il a poursuivi : « Je pense que c'est comme la révolution industrielle. Dans la révolution industrielle, la force humaine [est devenue moins importante], car les machines étaient plus puissantes – si vous vouliez creuser un fossé, vous utilisiez une machine. Ce que nous avons maintenant est en train de remplacer l'intelligence humaine. L'intelligence humaine ordinaire ne sera plus à la pointe, les machines la remplaceront. »

Le professeur Hinton a prédit que l'intelligence artificielle, comme la révolution industrielle, bouleversera la vie des gens ordinaires, comme l'a décrit Charles Dickens. Il a déclaré que la façon dont la vie sera vécue avec cette technologie à l'avenir dépendra « dans une large mesure de la façon dont nos systèmes politiques utiliseront cette technologie ».

Il a ajouté : « Je crains que, même si cela conduira à une augmentation considérable de la productivité, ce qui devrait être bénéfique pour la société, si tous les bénéfices vont aux riches et que beaucoup de gens perdent leur emploi et deviennent plus pauvres, cela pourrait finir par être très préjudiciable à la société. »

« Ces choses sont plus intelligentes que nous. Donc, dans la révolution industrielle, les machines n'ont jamais pu remplacer les humains simplement parce qu'elles étaient plus puissantes. Nous contrôlions toujours tout, car nous avions l'intelligence. Maintenant, ces choses ont le potentiel de tout contrôler, donc c'est une grande différence. »

Il a déclaré qu'il « espérait » que les autres experts « très érudits » du domaine avaient raison d'être optimistes quant à l'avenir de cette technologie.

Cependant, le professeur Hinton a ajouté : « Je crains que la main invisible ne garantisse pas notre sécurité. Par conséquent, le simple fait de laisser cela aux motivations lucratives des grandes entreprises ne suffit pas à garantir qu'elles la développeront en toute sécurité. »

« La seule chose qui puisse obliger ces grandes entreprises à faire plus de recherche sur la sécurité, c'est la réglementation gouvernementale. » « Je suis donc fermement convaincu que les gouvernements doivent obliger les grandes entreprises à effectuer des recherches approfondies sur la sécurité. »

Le professeur Hinton avait précédemment déclaré qu'il regrettait quelque peu d'avoir introduit cette technologie dans le monde. Il a déclaré : « Il existe deux types de regrets. Un regret où vous vous sentez coupable d'avoir fait quelque chose que vous savez que vous ne devriez pas avoir fait, et un regret où vous le referiez dans les mêmes circonstances, mais qui pourrait finalement mal tourner. »

« J'ai le deuxième type de regret. Dans les mêmes circonstances, je le referais, mais je crains que les conséquences globales de cette affaire soient que des systèmes plus intelligents que nous finiront par tout contrôler. Nous n'avons pas vécu ce que c'est qu'avoir affaire à quelque chose de plus intelligent que nous. »