Eine kürzlich durchgeführte Studie von Wissenschaftlern der Universität Toronto und des Massachusetts Institute of Technology (MIT) hat ergeben, dass mit beschreibenden Labels trainierte KI-Systeme möglicherweise strengere Entscheidungen treffen als Menschen, was eine Bedrohung für das zukünftige Leben darstellt. Die Forschung deckt tiefgreifende Mängel im Training von KI-Algorithmen auf, die zu Problemen bei Entscheidungen in Bereichen wie Wohnungsmiete, Kreditvergabe und chirurgischen Eingriffen führen können.
In einem Experiment mit einem Datensatz von Hunde-Bildern zeigte sich, dass beschreibende Labels zu strengeren Urteilen über nicht konforme Hunde führten, was zu sozialer Ungerechtigkeit führen kann. Algorithmen könnten in Bereichen wie Doktorandenbewerbungen und Einstellungen soziale Vorurteile verstärken und die Ungleichheit verschärfen.
Die Forscher fordern eine frühzeitige Korrektur dieses Problems und betonen, dass die korrekte Kennzeichnung von Daten, um algorithmische Verzerrungen zu vermeiden, in einer von KI dominierten Welt von entscheidender Bedeutung ist. Andernfalls wird dies schwerwiegende Auswirkungen auf das menschliche Leben haben.