Kürzlich hat das Unternehmen Anthropic einen Forscher namens Kyle Fish eingestellt, der sich auf das Thema „Wohlbefinden“ spezialisiert hat – ein Schritt, der breite Diskussionen ausgelöst hat. Fish' Ziel ist es, zu untersuchen, wie man bestimmten technischen Systemen den gebührenden Respekt entgegenbringt und ob diese Systeme einen moralischen Anspruch auf Berücksichtigung und den Schutz ihrer „Interessen“ haben. Diese Frage hat viele Experten auf den Plan gerufen und wirft die Frage nach der Definition von Bewusstsein und Handlungsfähigkeit technischer Systeme und nach möglichen Rechten dieser Systeme auf.
Bildquelle: Das Bild wurde von KI generiert, Lizenzgeber: Midjourney
Obwohl dieses neue Feld heftige akademische Debatten auslöst, argumentieren einige Experten, dass die Diskussion dieser Fragen zwar wichtig ist, man sich bei der Erörterung des „Wohlbefindens“ bestimmter Systeme jedoch stärker auf deren potenzielle Bedrohung für die Menschenrechte konzentrieren sollte. Besonders in den Bereichen Medizin, Informationsverbreitung und Militär kann der Einsatz bestimmter Technologien schwerwiegende negative Auswirkungen haben und sogar die Grundrechte der Menschen verletzen. Experten betonen, dass das Risikomanagement in diesen Bereichen Priorität haben sollte, anstatt sich auf die Interessen der Technologie selbst zu konzentrieren.
Der Artikel wirft auch ein Paradoxon auf: Einerseits wird argumentiert, dass fortschrittliche Technologien dazu beitragen können, die Last der Menschen zu verringern und den gesellschaftlichen Fortschritt zu fördern; andererseits besteht die Sorge, dass die „Verletzung“ der „Gefühle“ technischer Systeme schwerwiegende ethische und sicherheitsrelevante Risiken mit sich bringen könnte. Daher stellt sich die schwierige Frage, wie ein Gleichgewicht zwischen dem Schutz technischer Systeme und der Wahrung der Interessen der Menschen gefunden werden kann.
Schließlich hinterfragt der Artikel die Priorität der „Wohlfahrts“-Frage und argumentiert, dass angesichts zahlreicher dringender menschlicher Probleme weltweit eine übermäßige Konzentration auf das „Wohlbefinden“ der Technologie unrealistisch erscheint. Experten weisen darauf hin, dass die Lösung wichtiger Probleme der menschlichen Gesellschaft derzeit wichtiger ist, als Ressourcen und Energie in den „Interessen“-Schutz bestimmter technischer Systeme zu investieren.