グーグルは先日、生成AIの利用規約を更新し、医療など「高リスク」分野において、生成AIツールを「自動化された意思決定」に使用できることを明確にしました。ただし、人的監督が必須となります。グーグルが火曜日に発表した最新の『生成AI禁止使用ポリシー』によると、顧客は個人の権利に「重大な悪影響」を及ぼす可能性のある「自動化された意思決定」に、グーグルの生成AIを使用できます。何らかの形で人的監督が行われる限り、顧客はグーグルの生成AIによる意思決定を行うことができます。

人工知能技術の台頭に伴い、企業や政府による「自動化された意思決定」の探求が、広く国民の懸念を引き起こしています。最新の消費者報告によると、回答者の72％以上が、AIによる就職面接、銀行融資の承認、住宅賃貸の資格審査、顔認識による監視などの分野への適用に不安を感じており、そのうち45％は「非常に不快」だと感じています。回答者の半数以上がAIによる顔認識監視に懸念を表明し、約3分の1が「非常に不快」だと感じています。医療診断や治療計画においても、回答者の半数はAIによる意思決定を望んでいません。