Según un informe reciente de Human Rights Watch (HRW), un reconocido organismo internacional de derechos humanos, las bases de datos utilizadas para entrenar algunos generadores populares de imágenes de inteligencia artificial contienen una gran cantidad de fotos de niños brasileños usadas sin su consentimiento. Esto plantea serios desafíos para la privacidad y la seguridad de los menores.
El informe señala que los investigadores de HRW, al analizar el vasto conjunto de datos públicos "LAION-5B", encontraron enlaces a al menos 170 fotos de niños brasileños de 10 estados diferentes. Estas imágenes abarcan momentos de toda su infancia, desde bebés hasta la adolescencia. La mayoría de las fotos procedían de blogs y videos personales compartidos en círculos reducidos de familiares y amigos, sin intención de que se divulgaran.
Fuente: Imagen generada por IA, proveedor de servicios de imágenes Midjourney
Es importante destacar que muchas de estas fotos incluyen el nombre y la ubicación de los niños, lo que facilita su identificación y localización. El mal uso de estas imágenes expone a los niños a riesgos como el acoso o la suplantación de identidad (phishing). Peor aún, algunos analistas advierten que, con el avance de la tecnología de intercambio de rostros con IA, las imágenes de los niños podrían utilizarse para generar contenido explícito y perturbador.
El informe cita ejemplos concretos: al menos 85 niñas brasileñas informaron que sus compañeros de clase habían utilizado herramientas de IA para falsificar videos pornográficos de ellas y difundirlos en línea, causándoles un trauma psicológico duradero. HRW exige que los gobiernos actúen con rapidez para proteger los datos de los niños del uso indebido por parte de los sistemas de IA.
Ante esto, la organización LAION ha colaborado con HRW y otras instituciones para eliminar de sus datos de entrenamiento las URL que enlazan con imágenes de niños. Sin embargo, el informe advierte que esto podría "subestimar considerablemente la cantidad real de datos personales de niños presentes en el conjunto de datos".
Una investigadora de HRW afirma que estas fotos familiares tenían un cierto grado de "privacidad" en internet, y eran difíciles de encontrar. Sin embargo, su uso masivo por la inteligencia artificial ha roto esas barreras de privacidad. La investigadora critica la idea de responsabilizar únicamente a los padres por la protección de la privacidad de los niños, argumentando que los gobiernos y las empresas tecnológicas también deben asumir su responsabilidad y establecer medidas de protección.
Human Rights Watch insta al gobierno brasileño a que, en la próxima legislación sobre protección de los derechos del niño, prohíba explícitamente el uso no autorizado de datos personales de niños para entrenar sistemas de IA, y a que establezca mecanismos para que los niños afectados puedan reclamar justicia. También se opina que los países de todo el mundo deberían reforzar la protección de datos de los niños a nivel legal, para evitar su uso indebido en sistemas de IA o su utilización para generar contenido inapropiado.