Les services de protection de l'enfance de l'État de Victoria, en Australie, ont récemment été contraints d'interdire à leur personnel l'utilisation de services d'intelligence artificielle générative. Cette décision fait suite à un incident où un employé a utilisé ChatGPT pour rédiger un rapport de demande de protection, en y entrant un grand nombre d'informations personnelles, notamment le nom d'un enfant à haut risque. Cet événement a attiré l'attention du Bureau du commissaire à l'information de Victoria (Ovic), qui a reçu un rapport en décembre dernier et a par la suite mené une enquête.
L'enquête a révélé que le rapport soumis par l'employé concernait un jeune enfant dont les parents étaient accusés de crimes sexuels, même si ces accusations ne concernaient pas directement l'enfant. Dans son rapport d'enquête, l'Ovic a souligné que de nombreuses formulations du rapport étaient clairement générées par ChatGPT et présentaient une structure de phrases et un vocabulaire non conformes aux directives de protection de l'enfance. Par exemple, le rapport décrivait la poupée d'un enfant – prétendument utilisée à des fins sexuelles par le père – comme un « objet adapté à l'âge, soutenant les besoins de développement de l'enfant », minimisant ainsi considérablement les risques potentiels auxquels l'enfant était confronté.
Le rapport de l'Ovic souligne également que la saisie d'informations personnelles dans ChatGPT constituait une divulgation non autorisée d'informations du service. L'employé a admis avoir utilisé ChatGPT pour gagner du temps et améliorer son efficacité, mais a nié avoir saisi des informations personnelles. L'enquête a également révélé que cet employé avait probablement utilisé ChatGPT pour 100 dossiers, et que près de 900 employés du service, soit près de 13 % du personnel total, avaient accédé au site Web de ChatGPT entre juillet et décembre 2023.
En conséquence, l'Ovic a donné une série d'instructions au service, notamment le blocage des adresses IP et des noms de domaine de plusieurs sites d'intelligence artificielle générative, parmi lesquels ChatGPT, Meta AI, Gemini et Copilot. Cette interdiction durera deux ans. Le service a déclaré accepter les conclusions de l'enquête et mettre en œuvre activement les instructions correspondantes. L'employé en question n'est plus employé par le service. L'Ovic se dit ouvert à l'utilisation future de l'intelligence artificielle générative dans le domaine de la protection de l'enfance, mais souligne la nécessité de garantir des normes de sécurité plus élevées.
Points clés :
✅ Un employé des services de protection de l'enfance du Victoria a saisi des informations personnelles en utilisant ChatGPT, ce qui a conduit l'institution à interdire l'utilisation de l'IA générative.
🚫 L'enquête a révélé que le rapport de cet employé contenait plusieurs formulations non conformes aux normes de protection de l'enfance et des informations inexactes.
🔒 L'Ovic a demandé au service de bloquer plusieurs sites Web d'IA, l'interdiction durera deux ans pour garantir la sécurité des informations relatives aux enfants.