语言模型在多个领域展现出广泛应用，从教育到法律咨询，甚至预测医疗风险。然而，随着这些模型在决策过程中的权重增加，它们可能无意中反映了人类训练数据中的偏见，加剧对少数群体的歧视。研究发现，语言模型存在隐性种族主义，尤其是在处理非洲裔美国英语（AAE）时，表现出有害的方言歧视，比对非洲裔美国人的任何已知刻板印象更消极。通过“匹配伪装”方法对比AAE与标准美国英语文本，研究揭示了模型在隐性偏见上与最负面刻板印象的高度重合。一些旨在缓解显性偏见的训练方法反而可能加剧隐性和显性刻板印象的差距。这些发现强调了语言技术公平和安全使用的重要性，以及在开发和应用这些技术时需要的敏感性和细致考虑。

人工智能在职场招聘中的应用旨在提高客观性和效率，但研究揭示了其可能加剧偏见的问题。AI从数据中学习，数据集中的偏见可能导致算法产生不公平的结果。HR与AI开发者间的教育和专业差异阻碍了有效合作，这影响了识别和减少偏见的能力。为解决此问题，建议实施结构化培训计划，提高HR专业人员的AI知识；促进跨领域团队合作，确保数据集多样化，代表不同群体；制定指导方针和伦理标准，以确保透明度和责任。通过这些措施，可创建更公平、包容的招聘系统。

["用户批评 Gemini 在不合适的历史背景下生成多样化图像","谷歌紧急修复 AI 工具，避免种族歧视指责","Gemini 机器人过去曾出现多样性问题"]

["加州参议员Steve Padilla提交了两项法案，旨在监管人工智能系统的使用，特别是州政府机构使用的系统。","第一项法案（Senate Bill892）要求科技部门制定人工智能服务的安全、隐私和非歧视标准，并禁止州政府与不符合这些标准的供应商合作。","第二项法案（Senate Bill893）将建立加州人工智能研究中心，为学者提供计算资源和数据。","这些法案是继去年9月加州参议员Scott Wiener提出的一项法案之后引入的。","加州已经通过一些科技行业的法律，如儿童在线安全规定和维修权法案。","联邦政策制定者也提出了涉及人工智能的一些法案，但尚未通过任何涉及人工智能安全的重要联邦法规。这导致一些州立法者提出了州级立法，监控或研究州机构使用的人工智能系统。"]

["Anthropic采用请求策略成功降低人工智能歧视，通过提示中强调友好对待，取得显著效果。","研究人员通过在提示中加入“干预”告诉模型不要有偏见，成功将歧视降低到几乎零。","策略强调高风险决策需谨慎使用语言模型，由政府和社会整体影响决策。","Anthropic与谷歌合作，计划部署谷歌Cloud TPUv5e芯片支持其语言模型Claude。","研究为降低人工智能歧视提供新策略，强调在高风险决策中慎重使用语言模型。"]

["英国央行认为人工智能可能加剧金融稳定风险,破坏银行信任","英国央行担心算法可能导致歧视性决策,复制历史偏见","英国央行称多家公司使用不透明AI模型可能影响市场稳定性","英国央行建议央行考虑如何限制金融公司使用AI的风险","英国央行的观点增加了各国对AI快速发展的担忧"]