オーストラリアのビクトリア州の児童保護機関は最近、職員による生成系AIサービスの使用禁止を余儀なくされました。これは、職員がChatGPTを使用して保護申請書を作成した際に、高リスクの子供の氏名を含む大量の個人情報を入力したことが原因です。この事件はビクトリア州情報委員事務所（Ovic）の注目を集め、昨年12月に報告を受け、調査を開始しました。
調査の結果、この職員が提出した報告書には幼い子供の情報が含まれており、その両親は性犯罪で起訴されていました（ただし、これらの容疑は子供自身には関係ありませんでした）。Ovicの調査報告書では、報告書中の多くの表現が明らかにChatGPTによって生成されたものであり、児童保護ガイドラインに沿わない言葉遣いや文章構成が含まれていると指摘しています。例えば、報告書では、父親が性的目的で使用したとされる子供の玩具を、「両親が子供の成長ニーズを満たすための適切な年齢の玩具」と表現しており、子供が直面している潜在的な危険性を著しく矮小化していました。
Ovicの報告書はまた、ChatGPTへの個人情報入力は、部門情報の不正開示に当たるとしています。この職員は、ChatGPTを使用した理由は時間節約と作業効率の向上のためであり、個人情報を入力したことは否定していますが、調査では、この職員が100件の事件でChatGPTを使用していた可能性があり、部門全体では2023年7月から12月にかけて、約900人の職員（職員総数の約13％）がChatGPTウェブサイトにアクセスしていたことが判明しました。
そのため、Ovicは部門に対し、ChatGPT、Meta AI、Gemini、Copilotなど、複数の生成系AIウェブサイトのIPアドレスとドメイン名をブロックするなど、一連の指示を出しました。この禁止令は2年間有効です。部門側は調査結果を受け入れ、関連指示を積極的に実施するとともに、当該職員は既に解雇されています。Ovicは、児童保護分野における生成系AIの将来的な利用については前向きな姿勢を示していますが、より高い安全基準を確保する必要があると強調しています。
要点：
✅ ビクトリア州の児童保護職員がChatGPTを使用中に個人情報を入力したため、生成系AIの使用禁止令が出されました。
🚫 調査の結果、当該職員の報告書には、児童保護基準に沿わない表現や不正確な情報が複数含まれていました。
🔒 Ovicは、児童情報の安全を確保するため、複数のAIウェブサイトのブロックを部門に要求し、禁止令は2年間有効です。
