オーストラリアのビクトリア州にある児童保護機関は、最近、従業員による生成系AIサービスの使用を禁止する措置を余儀なくされました。この決定は、ある職員がChatGPTを使用して保護申請書を作成する際に、高リスクの児童の氏名を含む大量の個人情報を入力したことが原因です。この事件はビクトリア州情報委員事務所（Ovic）の注目を集め、昨年12月に報告を受け、調査を開始しました。調査の結果、この職員が提出した報告書には幼い子供の情報が含まれていたことが判明しました。

学生が人工知能を利用して児童性的虐待の疑いのある画像を作成し、その精巧さに衝撃が走っています。専門家は緊急の対応を呼びかけ、学校での児童性的虐待資料の拡散防止を推奨しています。画像はプロの児童写真に匹敵する品質で、現実的な子どもの姿がインターネットに拡散する可能性があります。児童保護団体は、同様の有害行為を予防するためのより良いシステム構築を提言しています。