根据 IBM 商业价值研究所的一项新调查，近一半的首席执行官对人工智能（AI）的准确性和偏见表示担忧。此次调研由 IBM 与牛津经济研究院合作进行，涉及来自24个国家的5000名高管，涵盖北美、拉丁美洲、欧洲、中东、非洲及亚洲的企业领导者。在 AI 治理方面，调查显示，21% 的高管认为其组织的 AI 治理成熟度处于系统化或创新阶段，这表明企业在这一领域还有很大的提升空间。AI 治理是指与伦理和人类价值观相一致的原则、政策及负责任的发展实践。为应对 AI 准确性和偏见带来的担忧，

一项来自全球就业非营利组织Generation的最新调查揭露了职场中一个令人忧心的现象:在AI领域，年龄歧视正在成为一个日益严重的问题。这项涵盖2，610名45岁以上员工和1，488名雇主的调查显示，虽然90%的美国招聘经理承认中年和年长员工的整体表现不亚于或优于年轻同事，但在涉及AI相关职位时，他们更倾向于考虑35岁以下的候选人。这种偏见在欧洲雇主中同样普遍存在。图源备注：图片由AI生成，图片授权服务商Midjourney这一发现的出现时机格外敏感。当前，美欧地区的企业预计在未来一年

一项新的研究表明，大型语言模型中出于善意的安全措施可能会带来意外的弱点。研究人员发现，根据不同的人口统计学术语，模型被“越狱”的难易程度存在显著差异。这项名为“Do LLMs Have Political Correctness?”的研究探讨了人口统计学关键词如何影响越狱尝试的成功几率。研究发现，使用边缘群体术语的提示比使用特权群体术语的提示更有可能产生不需要的输出。研究人员指出:“这些故意的偏见导致GPT-4o模型在非二元性别和顺性别关键词之间的越狱成功率相差20%，白人和黑人关键词之间

OpenAI的研究人员最近发现了一个有趣的现象:用户在与ChatGPT互动时选择的用户名可能会对AI的回应产生微妙的影响。不过，这种影响总体来说非常小，主要局限于较早或未经优化的模型版本。这项研究深入探讨了ChatGPT在面对不同文化背景、性别和种族相关用户名时，对相同问题的反应差异。研究之所以选择用户名作为切入点，是因为名字往往携带着特定的文化、性别和种族含义，这使得它成为研究偏见的重要因素。特别是考虑到用户在使用ChatGPT完成任务时，经常会提供自己的名字。研究结

最近，OpenAI 的研究团队发现，当用户与 ChatGPT 互动时，选择的用户名可能会在某种程度上影响 AI 的回复。虽然这种影响比较微小，而且主要体现在较旧的模型上，但研究结果依然引人关注。用户通常会给 ChatGPT 提供自己的名字进行任务，因此，名字中所蕴含的文化、性别和种族背景成为研究偏见的一个重要因素。在这项研究中，研究人员探讨了 ChatGPT 如何在面对相同的问题时，根据不同的用户名作出不同的反应。研究发现，尽管整体回应质量在不同的群体间保持一致，但在某些特定任务

近日，OpenAI 的全球事务副总裁安娜・马坎朱（Anna Makanju）在联合国 “未来峰会” 上发表了一番关于人工智能偏见的看法。她提到，像 OpenAI 的 o1这样的 “推理” 模型，能够显著减少 AI 系统中的偏见。那么，o1是如何做到这一点的呢?马坎朱解释说，这些模型可以自我识别回答中的偏见，并更加遵循不产生 “有害” 回答的规则。她表示，o1模型在处理问题时，会花费更多时间来评估自己的回答，能够自我检查:“它能够说，‘这是我解决这个问题的方式’，然后再审视自己的回答，看看‘哦

最近，有一项新研究引了人们的关注，研究发现，ChatGPT 的回答反映了英语国家和新教国家人们的文化价值观。这项研究的核心是，像 ChatGPT 这样的大型语言模型在训练时，使用了大量来自某些国家和文化的数据，这就可能导致这些模型的输出结果带有文化偏见。研究团队由 René F Kizilcec 及其同事组成，他们通过让五个不同版本的 OpenAI GPT 回答十个来自世界价值观调查（World Values Survey）的问题，来探讨这一文化偏见。这个调查旨在从全球各国收集文化价值观的数据。这十个问题的设计让受

语言模型在多个领域展现出广泛应用，从教育到法律咨询，甚至预测医疗风险。然而，随着这些模型在决策过程中的权重增加，它们可能无意中反映了人类训练数据中的偏见，加剧对少数群体的歧视。研究发现，语言模型存在隐性种族主义，尤其是在处理非洲裔美国英语（AAE）时，表现出有害的方言歧视，比对非洲裔美国人的任何已知刻板印象更消极。通过“匹配伪装”方法对比AAE与标准美国英语文本，研究揭示了模型在隐性偏见上与最负面刻板印象的高度重合。一些旨在缓解显性偏见的训练方法反而可能加剧隐性和显性刻板印象的差距。这些发现强调了语言技术公平和安全使用的重要性，以及在开发和应用这些技术时需要的敏感性和细致考虑。

美国俄克拉荷马城警察局正在试验使用基于AI的聊天机器人“Draft One”生成报告，以节省时间。该系统由Axon公司开发，基于ChatGPT技术，能从音频记录中快速生成报告。支持者认为这能显著提高效率，但批评者担忧可能出现的错误、偏见及自动化可能带来的滥用权力问题。活动家Aurelius Francisco对使用同一公司提供的AI和电击枪感到不安，担心自动化可能导致骚扰、监视和暴力行为。目前，俄克拉荷马城仅将AI技术用于小型事件报告。在其他城市，如印第安纳州的拉法叶，应用范围更为广泛。警务专家Andrew Ferguson强调应谨慎对待自动化技术，确保警报的准确性对法律判决至关重要。Axon CEO Rick Smith则认为AI技术有巨大潜力，能减轻警员的繁琐工作，但警员仍需对其报告负责。当前，美国缺乏全国性的AI使用指导原则。

人工智能在职场招聘中的应用旨在提高客观性和效率，但研究揭示了其可能加剧偏见的问题。AI从数据中学习，数据集中的偏见可能导致算法产生不公平的结果。HR与AI开发者间的教育和专业差异阻碍了有效合作，这影响了识别和减少偏见的能力。为解决此问题，建议实施结构化培训计划，提高HR专业人员的AI知识；促进跨领域团队合作，确保数据集多样化，代表不同群体；制定指导方针和伦理标准，以确保透明度和责任。通过这些措施，可创建更公平、包容的招聘系统。

["实验发现 OpenAI GPT3.5 在简历排序中存在种族偏见。","测试结果显示 GPT3.5 更倾向于某些族裔的姓名，可能影响招聘决策。","实验还发现 GPT 在不同职位下存在性别和种族偏好。","OpenAI 回应称企业使用其技术时通常会采取减轻偏见的措施。"]

["谷歌 CEO 强烈谴责 Gemini AI 应用出现偏见问题","部分 Gemini 图像生成历史人物存在争议","Sundar Pichai 致信员工承诺全力解决 Gemini 问题","谷歌暂停 Gemini 图像生成器的使用"]

["专家表示OpenAI最新视频生成工具Sora可能助长虚假宣传和偏见。","Sora展示了达尔马提亚狗、中国新年游行和考古学家挖掘椅子的虚假视频。","专家担心Sora加剧互联网不实信息和政府宣传，使真假内容界限更加模糊。","OpenAI已采取措施防止滥用Sora，但专家仍对其潜在深度伪造视频能力表示担忧。"]

"美国国防部最近启动了一项赏金计划，旨在寻找人工智能模型中的法律偏见。该计划要求参与者从Meta的开源LLama-270B模型中提取明显的偏见例证。通过这一举措，五角大楼希望改"

["研究人员评估了 GPT-4 在临床决策中的种族和性别偏见","研究发现 GPT-4 存在明显的偏见","研究呼吁对大型语言模型进行偏见评估","研究结果发表在《柳叶刀数字健康》杂志上"]

["美国弗吉尼亚理工大学发布报告，指出ChatGPT存在环境正义问题上的偏见","研究发现，ChatGPT更容易为人口稠密州提供环境正义相关信息","而人口较少的农村州则缺乏等同的信息获取途径","研究呼吁进行更多的研究以揭示ChatGPT模型的地理偏见","此前研究还发现ChatGPT可能存在政治偏见"]

["美国弗吉尼亚理工大学发布报告，指出ChatGPT存在环境正义问题上的偏见","研究发现，ChatGPT更容易为人口稠密州提供环境正义相关信息","而人口较少的农村州则缺乏等同的信息获取途径","研究呼吁进行更多的研究以揭示ChatGPT模型的地理偏见","此前研究还发现ChatGPT可能存在政治偏见"]

["纽约大学 Tandon 工程学院的研究团队发现，与工作相关的育儿间隙可能导致不公平的招聘筛选。","研究团队通过对大型语言模型的偏见进行了检查。","研究结果显示，至少有一种语言模型错误地将与育儿有关的属性考虑进简历的筛选过程中。","这项研究结果表明，在使用 AI 招聘时，可能会错误地排除符合条件的女性候选人。"]

["人工智能生成的白人面孔如今在真实感上已经“比真人还真”，但存在对其他族裔的呈现偏见。","研究发现，算法训练数据的偏见导致AI倾向于用白人特征呈现其他族裔，可能加深在线上的种族偏见。","研究者呼吁公众教育，以避免信息错误和在线诈骗，强调人工智能“超真实主义”带来的潜在问题。"]

["英国政府正在多个部门运用深度学习算法,存在算法训练数据偏见问题。","英国内政部机场使用人工智能读取护照,存在严重的种族偏见问题。","要避免偏见,需要更透明的算法和开放的数据访问权限,以供专家验证系统的公平性。","英国政府虽采取了措施,但仍需加强法律压力,确保使用人工智能的组织遵守相关规定。","我们需要通过法律、技术和教育等手段,确保人工智能技术的公平正义。"]