Recientemente, la vicealcaldesa y abogada de San Francisco, Yvonne Meré, presentó una demanda contra 16 sitios web que utilizan inteligencia artificial para crear contenido pornográfico profundo falso, manipulando fotos de mujeres y niñas para mostrarlas desnudas sin su consentimiento. Esta acción legal sin precedentes tiene como objetivo combatir esta tendencia dañina y creciente entre los adolescentes, especialmente entre los chicos que utilizan "apps para desnudar" para manipular las imágenes de sus compañeras.
Nota de la fuente: La imagen fue generada por IA, el proveedor de servicios de licencias de imágenes es Midjourney
Según un informe del New York Times, los 16 sitios web demandados recibieron 200 millones de visitas en los primeros seis meses del año. Las empresas que operan estos sitios web se encuentran en California, Nuevo México, Reino Unido y Estonia, entre otros lugares. Los periodistas intentaron contactar a los representantes de estos sitios web, pero no recibieron respuesta o no hubo nadie disponible para una entrevista. Algunos sitios web incluso promocionaban sus servicios con frases como "¿Quieres que se desnude?", mientras que otros animaban directamente a los usuarios a obtener fotos de mujeres desnudas a través de sus plataformas.
Cabe destacar que estos sitios web suelen ofrecer una manipulación de imágenes inicial gratuita, pero los procesos posteriores requieren pago, mediante criptomonedas o tarjetas de crédito. La tecnología de deepfake utilizada se basa en modelos de IA entrenados con imágenes pornográficas reales e imágenes de abuso infantil para generar fotos de desnudos que parecen reales. El fiscal de distrito de San Francisco, David Chiu, destacó que las consecuencias para los responsables son casi inexistentes, señalando que una vez que las imágenes se propagan, resulta muy difícil encontrar el sitio web original, lo que complica aún más el proceso de búsqueda de justicia para las víctimas.
Sara Eisenberg, responsable de una unidad legal centrada en cuestiones sociales importantes, señala que educar a los adolescentes sobre el uso seguro de la tecnología no es suficiente. Cualquier foto puede ser manipulada sin autorización, y las medidas de protección tradicionales ya no son eficaces. Eisenberg afirma: "Incluso si los niños dominan el uso de internet y las redes sociales, no se puede evitar que alguien utilice estos sitios web para hacer cosas terribles".
La demanda busca no solo el cierre de estos sitios web, sino también la prohibición permanente de la creación de contenido pornográfico profundo falso, además de exigir el pago de multas civiles y honorarios de abogados. La demanda alega que estos sitios web violan las leyes estatales y locales sobre pornografía vengativa, las leyes sobre pornografía infantil y la ley de competencia desleal de California, que prohíbe las prácticas comerciales ilegales e injustas.
Meré declaró que, tras leer en el New York Times sobre los peligros de las imágenes deepfake, se puso inmediatamente en contacto con Eisenberg y buscó el apoyo de Chiu para preparar la demanda. Chiu mencionó que las fotos deepfake de desnudos, desde Taylor Swift hasta estudiantes de secundaria, son comunes y casi nadie recibe castigo. Los expertos advierten que el contenido pornográfico deepfake tiene un grave impacto en la salud mental, la reputación, las perspectivas universitarias y laborales de las víctimas.
Aunque Chiu reconoce que esta medida puede dar lugar a la aparición de nuevos sitios web como "topos", esperan poder incluir más sitios web en la demanda a medida que el problema evolucione. Como centro de la industria de la inteligencia artificial, San Francisco es el lugar adecuado para esta batalla legal. Chiu señala que, si bien las contribuciones de la industria de la inteligencia artificial son positivas, la aparición de contenido pornográfico deepfake es un "lado oscuro" que debe abordarse.
Puntos clave:
🌐 San Francisco demanda a 16 sitios web de pornografía deepfake para proteger la privacidad y los derechos de las mujeres.
💰 La demanda exige el cierre de estos sitios web y el pago de multas civiles y honorarios de abogados.
📉 El contenido pornográfico deepfake tiene un grave impacto en la salud mental y la vida social de las víctimas, y la rendición de cuentas legal es difícil.