Recientemente, la Fundación para la Observación de Internet del Reino Unido (IWF) publicó un informe preocupante que revela un aumento alarmante de contenido de abuso sexual infantil (CSAI) generado por inteligencia artificial en internet. Con la proliferación de la IA, casi cualquier persona con una computadora y conocimientos básicos de tecnología puede generar videos deepfake realistas.
En una investigación de 30 días realizada por la IWF este pasado primavera, se encontraron 3.512 ejemplos de material de abuso sexual infantil generado por IA en foros de la dark web, la mayoría de ellos extremadamente realistas. Esta cifra representa un aumento del 17% en comparación con una investigación similar realizada en otoño de 2023. Más preocupante aún es el aumento de la proporción de contenido que muestra actos sexuales más extremos o explícitos.
Nota de la fuente: Imagen generada por IA, proveedor de servicios de licencias Midjourney
Dan Sexton, director de tecnología de la IWF, declaró: "La realidad está mejorando y la gravedad del contenido también. Esta es una tendencia que no queremos ver". Aunque los videos completamente sintéticos actuales aún no son completamente realistas, esto podría cambiar rápidamente con el rápido avance de la tecnología. Si bien la mayoría de los depredadores todavía dependen de material de video real existente para crear deepfakes, esta tendencia sin duda causa un daño duradero a las víctimas.
Además, el informe señala que el rápido desarrollo de la IA presenta nuevos desafíos para los organismos reguladores, las empresas tecnológicas y las fuerzas del orden. El verano pasado, siete grandes empresas de IA de Estados Unidos firmaron un compromiso público para seguir una serie de directrices éticas y de seguridad. Sin embargo, no tienen control sobre los numerosos programas de IA más pequeños que se encuentran dispersos por internet, que suelen ser gratuitos y fáciles de obtener.
Este nuevo tipo de material de abuso sexual infantil puede dificultar el seguimiento de los pedófilos que comercian con este tipo de contenido. El nuevo material falso generado a menudo puede eludir los escaneos automáticos de las plataformas de redes sociales y las fuerzas del orden, lo que genera confusión sobre cómo abordar esta situación. El Departamento de Justicia de Estados Unidos ya ha presentado cargos contra al menos un hombre por producir material de abuso sexual infantil utilizando inteligencia artificial, pero aún existe una zona gris legal sobre cómo definir este tipo de delitos.
El FBI afirma que toma en serio todas las denuncias de delitos contra menores y trabaja con las fuerzas del orden locales en las investigaciones. Se hace un llamamiento especial a las víctimas: si usted o alguien que conoce ha sido víctima de explotación infantil, póngase en contacto inmediatamente con la línea directa del grupo de trabajo en línea.
Puntos clave:
📈 Un informe reciente muestra un aumento drástico en el contenido de abuso sexual infantil generado por IA en la dark web, un 17% más que antes.
🛑 La realidad y la gravedad del contenido falso están aumentando, causando un mayor daño y angustia a las víctimas.
⚖️ La legislación sobre el contenido generado por IA sigue siendo una zona gris, lo que plantea nuevos desafíos a las fuerzas del orden.