在澳大利亚维多利亚州儿童保护机构近日被迫下达禁令，要求工作人员不得再使用生成式人工智能服务。这一决定是因为一名工作人员在使用 ChatGPT 撰写保护申请报告时，输入了大量个人信息，包括一名高风险儿童的姓名。这个事件引起了维多利亚州信息专员办公室（Ovic）的关注，他们在去年12月接到报告，随后对此展开了调查。调查结果显示，这名员工提交的报告涉及一名年幼儿童，儿童的父母被控性犯罪，尽管这些指控并涉及到孩子本人。Ovic 在调查报告中指出，报告中多处用语显然

["学生利用人工智能制作涉嫌儿童性虐待图像，逼真程度令人震惊。","专家呼吁紧急行动，建议学校阻止儿童性虐待材料传播。","图像质量媲美专业儿童照片，儿童形象逼真可能传播至互联网。","儿童保护组织建议建立更好系统，预防类似有害行为。"]