Eine aktuelle Studie der globalen Non-Profit-Organisation Generation für Beschäftigung deckt ein besorgniserregendes Phänomen auf: Altersdiskriminierung wird in der KI-Branche immer mehr zum Problem. Die Befragung von 2.610 Mitarbeitern über 45 Jahren und 1.488 Arbeitgebern zeigt, dass 90% der amerikanischen Recruiting-Manager zwar die Leistung von Mitarbeitern mittleren Alters und älteren Mitarbeitern als mindestens gleichwertig oder sogar besser als die jüngerer Kollegen einstufen, bei KI-Positionen jedoch Kandidaten unter 35 Jahren bevorzugen. Diese Voreingenommenheit zeigt sich auch bei europäischen Arbeitgebern.

Sprachmodelle finden in vielen Bereichen breite Anwendung, von Bildung und Rechtsberatung bis hin zur Vorhersage medizinischer Risiken. Mit zunehmendem Einfluss dieser Modelle auf Entscheidungsprozesse spiegeln sie jedoch möglicherweise unbeabsichtigt Vorurteile aus den menschlichen Trainingsdaten wider und verstärken so die Diskriminierung von Minderheiten. Studien zeigen einen impliziten Rassismus in Sprachmodellen, insbesondere bei der Verarbeitung von African American Vernacular English (AAE), der eine schädliche Dialektdiskriminierung aufzeigt – negativer als jede bekannte Stereotypisierung von Afroamerikanern. Durch die Methode des „Matching-Camouflaging“ wird AAE mit Standard American English verglichen.

Der kalifornische Senator Steve Padilla hat zwei Gesetzentwürfe vorgelegt, die den Einsatz von KI-Systemen, insbesondere in staatlichen Behörden, regulieren sollen. Der erste Gesetzentwurf (Senate Bill 892) verpflichtet Technologieunternehmen, Sicherheits-, Datenschutz- und Nichtdiskriminierungsstandards für KI-Dienste zu entwickeln und verbietet staatlichen Stellen die Zusammenarbeit mit Anbietern, die diese Standards nicht erfüllen. Der zweite Gesetzentwurf (Senate Bill 893) wird ein kalifornisches Forschungszentrum für Künstliche Intelligenz einrichten, das Wissenschaftlerinnen und Wissenschaftlern Rechenressourcen und Daten zur Verfügung stellt.