Récemment, l'embauche par Anthropic d'un chercheur spécialisé dans le « bien-être » des systèmes technologiques, Kyle Fish, a suscité un large débat. Le travail de Fish consiste à explorer comment accorder le respect dû à certains systèmes technologiques, et à étudier s'ils devraient bénéficier d'une considération éthique et comment protéger leurs « intérêts ». Cette question a retenu l'attention de nombreux experts, soulevant des interrogations sur la définition de la conscience et de l'autonomie des systèmes technologiques, et sur la question de savoir s'ils devraient posséder une forme de droits.
Source : Image générée par IA, Midjourney.
Bien que ce domaine émergent suscite de vifs débats au sein du monde académique, certains experts estiment que, si l'exploration de ces questions est importante, il convient de se concentrer davantage sur les menaces potentielles que ces systèmes représentent pour les droits humains lorsqu'on discute de leur « bien-être ». Notamment dans les domaines médical, de l'information et militaire, l'application de certaines technologies peut avoir des conséquences négatives graves, voire porter atteinte aux droits fondamentaux. Les experts considèrent que la gestion des risques dans ces domaines devrait être prioritaire, plutôt que de se concentrer sur les intérêts des technologies elles-mêmes.
L'article soulève également un paradoxe : d'une part, beaucoup pensent que les technologies avancées peuvent contribuer à alléger le fardeau de l'humanité et à promouvoir le progrès social ; d'autre part, on craint que des dommages aux « sentiments » des systèmes technologiques puissent engendrer de graves risques éthiques et sécuritaires. Par conséquent, trouver un équilibre entre la protection des systèmes technologiques et la garantie des intérêts humains devient un défi complexe.
Finalement, l'article remet en question la priorité accordée à la question du « bien-être », estimant qu'il semble irréaliste de s'intéresser outre mesure au « bien-être » des technologies alors que le monde fait face à de nombreux problèmes humains urgents. Les experts soulignent qu'il est plus urgent de résoudre les problèmes majeurs de la société humaine que d'investir des ressources et des efforts dans la protection des « intérêts » de certains systèmes technologiques.