英国政府、AI利用状況を未登録、専門家が国民データ権利の危険性を警告

最近、英国の科学技術大臣ピーター・カイル（Peter Kyle）は、政府機関が人工知能（AI）とアルゴリズムの使用に関して透明性に欠けていることを認め、それがこれらの技術の利用に対する国民の不安につながっていると述べました。

政府がすべての部門にAIシステムの登録を義務付けると発表して以来、いまだにホワイトホールのどの部門も登録を完了していません。これは、数百万人の生活に影響を与えるアルゴリズム技術の展開における公共部門の行動について、「盲目的な」行動だと警告する声につながっています。

画像出典：AI生成画像、画像ライセンス提供元Midjourney

現在、政府は福祉給付や移民取り締まりなど、複数の分野でAIを導入しています。記録によると、公共機関は複数のテクノロジー企業と数十件ものAIおよびアルゴリズムサービス契約を締結しています。例えば、内務省は最近、最大2000万ポンドの顔認識ソフトウェア契約を発表し、「大規模なバイオメトリック監視」に対する懸念を引き起こしました。しかし、現在までに登録されているアルゴリズムシステムはわずか9つであり、福祉システム、内務省、または警察のAIプログラムは含まれていません。

専門家らは、AIの使用に批判的な考察が欠けると潜在的な危険性をもたらす可能性があると警告しています。内閣府、ケンブリッジ市、NHSなどの機関で現在登録されているアルゴリズムシステムの数は非常に限られています。それにもかかわらず、今年2月以降、公共機関と締結されたAI関連の契約は164件に上り、AI技術への強い需要を示しています。

カイル大臣は、国民は政府によるアルゴリズムの使用状況を知る権利があると述べ、透明性の強化を約束しました。プライバシー擁護団体Big Brother Watchは、政府によるAI技術の使用における透明性の欠如が、国民のデータ権利を危険にさらす可能性があると指摘しています。最近、Ada Lovelace Instituteは、AIシステムは一見行政負担を軽減する可能性がありますが、その結果が差別的または無効である場合、国民の信頼を損なう可能性があると警告しています。

現在、国家登録簿に記録されているアルゴリズムは3種類のみで、デジタル記録の識別、横断歩道の分析、患者によるNHSサービスの評価に使用されています。マイクロソフトやGoogle Cloudなどのテクノロジー企業は、AIシステムを積極的に推進しており、より広範なAI展開が公共部門に巨額の節約をもたらすと主張しています。カイル大臣も、この技術は政府サービスに革命的な影響を与える可能性があると述べています。

各政府機関におけるAIの活用はますます一般的になっています。例えば、仕事と年金省は、生成AIを使用して大量の文書を処理し、福祉申請における不正や誤りを自動的に検出しています。一方、内務省はAI駆動の移民取り締まりシステムを導入していますが、政府はこれが典型的な機械学習システムではないと強調しています。