最近，OpenAI 的研究团队发现，当用户与 ChatGPT 互动时，选择的用户名可能会在某种程度上影响 AI 的回复。虽然这种影响比较微小，而且主要体现在较旧的模型上，但研究结果依然引人关注。用户通常会给 ChatGPT 提供自己的名字进行任务，因此，名字中所蕴含的文化、性别和种族背景成为研究偏见的一个重要因素。在这项研究中，研究人员探讨了 ChatGPT 如何在面对相同的问题时，根据不同的用户名作出不同的反应。研究发现，尽管整体回应质量在不同的群体间保持一致，但在某些特定任务

["实验发现 OpenAI GPT3.5 在简历排序中存在种族偏见。","测试结果显示 GPT3.5 更倾向于某些族裔的姓名，可能影响招聘决策。","实验还发现 GPT 在不同职位下存在性别和种族偏好。","OpenAI 回应称企业使用其技术时通常会采取减轻偏见的措施。"]

["研究人员评估了 GPT-4 在临床决策中的种族和性别偏见","研究发现 GPT-4 存在明显的偏见","研究呼吁对大型语言模型进行偏见评估","研究结果发表在《柳叶刀数字健康》杂志上"]

["人工智能生成的白人面孔如今在真实感上已经“比真人还真”，但存在对其他族裔的呈现偏见。","研究发现，算法训练数据的偏见导致AI倾向于用白人特征呈现其他族裔，可能加深在线上的种族偏见。","研究者呼吁公众教育，以避免信息错误和在线诈骗，强调人工智能“超真实主义”带来的潜在问题。"]