zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-08-30 17:39:21
.
AIbase
.
11.4k
大模型的隐秘偏见:方言歧视如何悄然滋生
语言模型在多个领域展现出广泛应用,从教育到法律咨询,甚至预测医疗风险。然而,随着这些模型在决策过程中的权重增加,它们可能无意中反映了人类训练数据中的偏见,加剧对少数群体的歧视。研究发现,语言模型存在隐性种族主义,尤其是在处理非洲裔美国英语(AAE)时,表现出有害的方言歧视,比对非洲裔美国人的任何已知刻板印象更消极。通过“匹配伪装”方法对比AAE与标准美国英语文本,研究揭示了模型在隐性偏见上与最负面刻板印象的高度重合。一些旨在缓解显性偏见的训练方法反而可能加剧隐性和显性刻板印象的差距。这些发现强调了语言技术公平和安全使用的重要性,以及在开发和应用这些技术时需要的敏感性和细致考虑。
2023-10-25 16:06:34
.
AIbase
.
2.5k
研究发现AI聊天机器人传播关于黑人的“种族主义”医疗信息
["最新研究揭示:知名AI聊天机器人,如ChatGPT,传播关于黑人的虚假医疗观念。","斯坦福大学的研究人员通过提问AI聊天机器人,发现其回答中包含了错误观点,涉及肾脏功能、肺容量和肌肉质量。","这引发了担忧,因为错误医疗信息可能加剧健康差距。"]