谷歌（Google）近日更新了其生成式AI的使用条款，明确指出客户可以在医疗保健等“高风险”领域部署其生成式AI工具进行“自动化决策”，但前提是必须有人工监督。根据谷歌周二发布的最新版《生成式AI禁止使用政策》，客户可以使用谷歌的生成式AI做出可能对个人权利产生“重大不利影响”的“自动化决策”。只要有人工以某种形式进行监督，客户就可以使用谷歌的生成式AI来决定就业、住房、保险、社会福利和其他“高风险”领域的事项。在AI领域，自动化决策指的是AI系统基于事实

随着人工智能技术的兴起，企业与政府探索“自动化决策”引发了公众广泛担忧。最新消费者报告显示，超过72%的受访者对AI在工作面试、银行贷款审批、租房资格评估以及面部识别监控等领域的应用表示不安，其中45%的人对此感到“非常不舒服”。超过一半的受访者对AI进行面部识别监控表示担忧，约三分之一的人对此表示“非常不舒服”。在医疗诊断和治疗方案方面，半数的受访者也不愿让AI参与。民众普遍希望了解用于决策的算法所训练的数据来源，并希望纠正错误数据。尽管公众的反感情绪明显，加州州长与五家AI公司合作测试AI在政府部门的应用，纽约市的住房部门也曾尝试类似项目但遭到了居民抗议。私营部门如麦肯锡和德意志银行等企业也全力支持AI决策技术，尽管这可能会重蹈金融机构实施种族歧视的覆辙。