Une récente enquête de Generation, organisation internationale à but non lucratif œuvrant pour l'emploi, révèle un phénomène inquiétant : la discrimination par l'âge est un problème croissant dans le secteur de l'IA. Cette étude, menée auprès de 2 610 employés de plus de 45 ans et de 1 488 employeurs, montre que 90 % des responsables du recrutement américains admettent que les employés d'âge moyen et plus âgés sont aussi performants, voire plus performants, que leurs jeunes collègues. Cependant, pour les postes liés à l'IA, ils privilégient les candidats de moins de 35 ans. Ce biais est également observé chez les employeurs européens.

Les modèles linguistiques sont largement utilisés dans de nombreux domaines, de l'éducation aux consultations juridiques, en passant par la prédiction des risques médicaux. Cependant, à mesure que leur importance dans les processus décisionnels augmente, ils peuvent involontairement refléter les biais présents dans les données d'entraînement humaines, aggravant ainsi la discrimination à l'égard des minorités. Des recherches ont révélé que les modèles linguistiques présentent un racisme implicite, notamment lorsqu'ils traitent l'anglais afro-américain (AAE), manifestant une discrimination dialectale nuisible, plus négative que toute stéréotype connu des Afro-Américains. Comparaison de l'AAE et de l'anglais américain standard par la méthode du « masquage d'appariement ».

Le sénateur californien Steve Padilla a présenté deux projets de loi visant à réglementer l'utilisation des systèmes d'intelligence artificielle, en particulier ceux utilisés par les organismes gouvernementaux de l'État. Le premier projet de loi (Senate Bill 892) exige que les entreprises technologiques établissent des normes de sécurité, de confidentialité et de non-discrimination pour les services d'IA et interdit aux organismes gouvernementaux de l'État de collaborer avec des fournisseurs qui ne respectent pas ces normes. Le second projet de loi (Senate Bill 893) créerait un centre de recherche californien sur l'IA pour fournir aux chercheurs des ressources informatiques et des données.

Anthropic a réussi à réduire la discrimination de l'IA grâce à une stratégie de requête. En insistant sur un traitement amical dans les invites, des résultats significatifs ont été obtenus. Des chercheurs ont réussi à réduire la discrimination à presque zéro en ajoutant une "intervention" dans les invites pour indiquer au modèle de ne pas être partial. La stratégie souligne la nécessité d'une utilisation prudente des modèles linguistiques pour les décisions à haut risque, les décisions étant influencées par le gouvernement et la société dans son ensemble. Anthropic collabore avec Google et prévoit de déployer des puces Google Cloud TPUv5e pour soutenir son modèle linguistique Claude. Cette recherche contribue à la réduction de la discrimination artificielle.