最近，OpenAI 的研究团队发现，当用户与 ChatGPT 互动时，选择的用户名可能会在某种程度上影响 AI 的回复。虽然这种影响比较微小，而且主要体现在较旧的模型上，但研究结果依然引人关注。用户通常会给 ChatGPT 提供自己的名字进行任务，因此，名字中所蕴含的文化、性别和种族背景成为研究偏见的一个重要因素。在这项研究中，研究人员探讨了 ChatGPT 如何在面对相同的问题时，根据不同的用户名作出不同的反应。研究发现，尽管整体回应质量在不同的群体间保持一致，但在某些特定任务

语言模型在多个领域展现出广泛应用，从教育到法律咨询，甚至预测医疗风险。然而，随着这些模型在决策过程中的权重增加，它们可能无意中反映了人类训练数据中的偏见，加剧对少数群体的歧视。研究发现，语言模型存在隐性种族主义，尤其是在处理非洲裔美国英语（AAE）时，表现出有害的方言歧视，比对非洲裔美国人的任何已知刻板印象更消极。通过“匹配伪装”方法对比AAE与标准美国英语文本，研究揭示了模型在隐性偏见上与最负面刻板印象的高度重合。一些旨在缓解显性偏见的训练方法反而可能加剧隐性和显性刻板印象的差距。这些发现强调了语言技术公平和安全使用的重要性，以及在开发和应用这些技术时需要的敏感性和细致考虑。

["实验发现 OpenAI GPT3.5 在简历排序中存在种族偏见。","测试结果显示 GPT3.5 更倾向于某些族裔的姓名，可能影响招聘决策。","实验还发现 GPT 在不同职位下存在性别和种族偏好。","OpenAI 回应称企业使用其技术时通常会采取减轻偏见的措施。"]

["用户批评 Gemini 在不合适的历史背景下生成多样化图像","谷歌紧急修复 AI 工具，避免种族歧视指责","Gemini 机器人过去曾出现多样性问题"]

["生成式人工智能预计将为美国创造近2万亿美元的财富，其中500亿美元将流向家庭。","黑人家庭“每增加一美元家庭财富就赚取38美分”，如果准确的话，种族贫富差距可能会扩大430亿美元。","黑人专业人士主要从事不需要学位的工作，如办公支持、生产工作、食品服务和机械安装和维修，这些工作可能被人工智能取代，进一步加剧财富差距。","生成式人工智能有望在美国创造近2万亿美元的财富，其中约500亿美元将流向家庭。"]

["研究人员评估了 GPT-4 在临床决策中的种族和性别偏见","研究发现 GPT-4 存在明显的偏见","研究呼吁对大型语言模型进行偏见评估","研究结果发表在《柳叶刀数字健康》杂志上"]

["人工智能生成的白人面孔如今在真实感上已经“比真人还真”，但存在对其他族裔的呈现偏见。","研究发现，算法训练数据的偏见导致AI倾向于用白人特征呈现其他族裔，可能加深在线上的种族偏见。","研究者呼吁公众教育，以避免信息错误和在线诈骗，强调人工智能“超真实主义”带来的潜在问题。"]

["最新研究揭示：知名AI聊天机器人，如ChatGPT，传播关于黑人的虚假医疗观念。","斯坦福大学的研究人员通过提问AI聊天机器人，发现其回答中包含了错误观点，涉及肾脏功能、肺容量和肌肉质量。","这引发了担忧，因为错误医疗信息可能加剧健康差距。"]