Recentemente, uma agência de proteção infantil em Victoria, Austrália, foi forçada a emitir uma proibição para seus funcionários usarem serviços de inteligência artificial generativa. Essa decisão se deveu a um incidente em que um funcionário usou o ChatGPT para escrever um relatório de pedido de proteção, inserindo muitas informações pessoais, incluindo o nome de uma criança de alto risco. Este incidente chamou a atenção do Escritório do Comissário de Informação de Victoria (Ovic), que recebeu o relatório em dezembro passado e lançou uma investigação.
A investigação revelou que o relatório apresentado pelo funcionário envolvia uma criança pequena cujos pais foram acusados de crimes sexuais, embora essas acusações não envolvessem diretamente a criança. O relatório do Ovic apontou que várias frases no relatório foram claramente geradas pelo ChatGPT e continham linguagem e estrutura de frases que não estavam em conformidade com as diretrizes de proteção infantil. Por exemplo, o relatório descreveu um boneco da criança – alegadamente usado pelo pai para fins sexuais – como um “brinquedo apropriado para a idade que apoia as necessidades de desenvolvimento da criança”, minimizando significativamente os potenciais riscos para a criança.
O relatório do Ovic também apontou que a inserção de informações pessoais no ChatGPT constituiu uma divulgação não autorizada de informações do departamento. O funcionário admitiu ter usado o ChatGPT para economizar tempo e melhorar a eficiência, mas negou ter inserido informações pessoais. A investigação também descobriu que o funcionário pode ter usado o ChatGPT em 100 casos, e que, em todo o departamento, quase 900 funcionários acessaram o site do ChatGPT de julho a dezembro de 2023, quase 13% do total de funcionários.
Como resultado, o Ovic emitiu uma série de instruções para o departamento, incluindo o bloqueio dos IPs e domínios de vários sites de inteligência artificial generativa, incluindo ChatGPT, Meta AI, Gemini e Copilot. A proibição terá duração de dois anos. O departamento disse que aceita os resultados da investigação e implementará ativamente as instruções relevantes, e o funcionário em questão já não está mais empregado. O Ovic mantém uma postura aberta sobre o uso futuro da inteligência artificial generativa na área de proteção infantil, mas enfatiza a necessidade de garantir padrões de segurança mais elevados.
Pontos importantes:
✅ Um funcionário de proteção infantil de Victoria inseriu informações pessoais ao usar o ChatGPT, levando a agência a proibir o uso de IA generativa.
🚫 A investigação descobriu que o relatório do funcionário continha várias frases que não estavam em conformidade com os padrões de proteção infantil e informações imprecisas.
🔒 O Ovic exigiu que o departamento bloqueasse vários sites de IA, e a proibição durará dois anos para garantir a segurança das informações das crianças.
