トロント大学とマサチューセッツ工科大学の科学者による実験で、記述的なラベルを用いてトレーニングされたAIシステムが、人間よりも厳しい決定を下す可能性があることが判明しました。この研究は、AIアルゴリズムのトレーニングに深刻な欠陥があり、住宅賃貸、融資、手術などの意思決定に影響を与え、人類に壊滅的な結果をもたらす可能性があることを明らかにしています。実験では、犬の画像データセットを例に、記述的なラベルが違反している犬に対する判断をより厳しくし、社会的不平等につながる可能性があることを示しました。博士課程の応募や採用などの分野で、アルゴリズムが社会的な偏見を強め、不平等を悪化させる可能性があります。研究者たちは、この問題を早期に是正するよう促しています。