Un hombre en Florida, Estados Unidos, ha sido arrestado y enfrenta hasta 20 cargos de pornografía infantil por supuestamente crear y distribuir contenido de abuso sexual infantil generado por inteligencia artificial. Este caso ha generado una gran preocupación sobre el mal uso de la inteligencia artificial generativa.
Según CBS12 News, el hombre, Phillip Michael McCorkle, trabajaba en un cine en Vero Beach, Florida. Fue arrestado en el cine la semana pasada, un momento dramático capturado por las cámaras de televisión, mostrando a McCorkle, con su uniforme, siendo esposado y llevado por la policía.
El arresto se produjo tras múltiples denuncias a la Oficina del Sheriff del Condado de Indian River de que McCorkle estaba publicando imágenes de abuso sexual infantil generadas por IA en la aplicación social Kik. El arresto forma parte de una iniciativa del condado para combatir los delitos de pornografía infantil; sin embargo, el uso de la inteligencia artificial generativa por parte de McCorkle para cometer este delito es alarmante.
La proliferación de este tipo de contenido de abuso sexual infantil con la proliferación de la IA generativa ha llamado la atención de los legisladores a todos los niveles, y muchos están impulsando leyes para prohibir la difusión de este material. Sin embargo, aún no está claro hasta qué punto estas medidas legales podrán frenar este fenómeno.
El año pasado, el Centro Nacional para Niños Desaparecidos y Explotados recibió 4700 denuncias relacionadas con contenido de abuso sexual infantil generado por IA. Lo que es preocupante es que algunos delincuentes incluso utilizan la IA generativa para crear imágenes falsas profundas de niños reales para chantajearlos. Un estudio realizado por la Universidad de Stanford en 2023 también encontró cientos de imágenes de abuso sexual infantil en conjuntos de datos de imágenes de IA generativa ampliamente utilizados.
Juntando toda esta información, vemos un problema casi incontrolable. Dan Sexton, director de tecnología de la Internet Watch Foundation, dijo: "El contenido que hemos encontrado se genera realmente a través de software de código abierto que se descarga y ejecuta localmente en computadoras personales, y luego se modifica. Esto hace que el problema sea aún más difícil de resolver."
Puntos clave:
🛑 Un hombre de Florida fue arrestado por usar IA para generar contenido de abuso sexual infantil y enfrenta 20 cargos.
📱 Distribuyó este material inapropiado a través de la aplicación social Kik, lo que generó preocupación pública.
⚖️ Los legisladores de todos los niveles están impulsando leyes para prohibir este tipo de contenido, pero aún está por verse su eficacia.
