最近、OpenAIの研究チームは、ユーザーがChatGPTとやり取りする際に、選択したユーザー名がAIの回答に何らかの影響を与える可能性があることを発見しました。この影響は比較的小さく、主に古いモデルに見られるものですが、研究結果は依然として注目に値します。ユーザーは通常、ChatGPTに自分の名前を提示してタスクを実行させるため、名前が含む文化、性別、人種的背景はバイアスを研究する上で重要な要素となります。この研究では、研究者らはChatGPTについて考察しました

研究者らは、GPT-4における臨床意思決定の人種・性差バイアスを評価しました。GPT-4に明らかなバイアスが存在することが判明しました。大規模言語モデルのバイアス評価の必要性が訴えられています。研究結果は『ランセットデジタルヘルス』誌に掲載されました。