言語モデルは、教育から法律相談、さらには医療リスクの予測に至るまで、多くの分野で広く利用されています。しかし、これらのモデルが意思決定プロセスにおける重要性を増すにつれて、無意識のうちに人間のトレーニングデータに含まれるバイアスを反映し、少数派への差別を悪化させる可能性があります。研究によると、言語モデルには潜在的な人種差別が存在し、特にアフリカ系アメリカ人英語（AAE）を処理する際に有害な方言差別を示し、アフリカ系アメリカ人に対する既知のステレオタイプよりも否定的な結果となっています。AAEと標準アメリカ英語を比較する「マッチング・マスキング」手法を用いて分析しています。