近日，英国科技部长彼得・凯尔（Peter Kyle）承认，政府部门在使用人工智能(AI)和算法方面缺乏透明度，导致公众对这些技术的应用感到不安。
自从政府宣布将强制要求所有部门登记使用 AI 系统以来，至今没有一个白厅部门完成这一登记。这引发了对公共部门在影响数百万生活的算法技术部署上的警告，称其在 “盲目” 行事。
图源备注:图片由AI生成，图片授权服务商Midjourney
目前，政府已在多个领域应用 AI，包括福利支付和移民执法等。根据记录，公共机构已经与多家科技公司签订了数十份 AI 和算法服务的合同。例如，内政部最近发布了一份价值高达2000万英镑的面部识别软件合同，这引发了对 “大规模生物识别监控” 的担忧。然而，迄今为止，只有九个算法系统被登记在公共注册中，未包含福利系统、内政部或警方的任何 AI 程序。
专家们警告说，如果对 AI 的使用缺乏批判性思考，可能会带来潜在的危害。内阁办公室、剑桥市以及 NHS 等机构目前已登记的算法系统数量极为有限。尽管如此，自今年2月以来，与公共机构签订的涉及 AI 的合同已达164份，显示出对 AI 技术的强烈需求。
凯尔表示，公众有权了解政府在使用算法方面的情况，并承诺将加强透明度。隐私权倡导组织 Big Brother Watch 指出，政府在使用 AI 技术时缺乏透明度，可能危及公众的数据权利。最近，Ada Lovelace Institute 警告称，虽然 AI 系统可能看似减少了行政负担，但如果其结果存在歧视或无效，反而可能损害公众信任。
目前，只有三种算法被记录在国家登记册中，分别用于识别数字记录、分析人行横道和患者对 NHS 服务的评价。科技公司如微软和谷歌云正积极推广其 AI 系统，声称更广泛的 AI 部署能够为公共部门带来巨额节省。凯尔也称这种技术可能在政府服务中产生革命性影响。
在各个政府部门，AI 的应用已经越来越普遍。比如，工作和养老金部正在使用生成式 AI 处理大量文件，自动检测福利申请中的欺诈和错误。而内政部则部署了一个 AI 驱动的移民执法系统，尽管政府强调这不是一个典型的机器学习系统。
划重点:
🔍 英国政府未能登记任何 AI 系统，公众对其透明度表示担忧。
💼 AI 技术已广泛应用于福利支付和移民执法，但记录却十分匮乏。
📈 专家警告 AI 可能带来的潜在危害，呼吁加强透明度与监管。
