Recientemente, Google finalmente ha tomado medidas para combatir el contenido de deepfakes no consensuado. Especialmente después del incidente de deepfake de Taylor Swift hace ocho meses, que atrajo mucha atención y llevó a las empresas tecnológicas y a los legisladores a tomar en serio el problema. Henry Ajder, experto en inteligencia artificial generativa, señala que se ha llegado a un punto de inflexión crucial, donde la creciente concienciación del consumidor y la presión legislativa hacen que las empresas tecnológicas no puedan ignorar el problema.
La semana pasada, Google anunció medidas para evitar que el contenido de deepfakes pornográficos aparezca en los resultados de búsqueda. Simplificarán el proceso para que las víctimas soliciten la eliminación de imágenes pornográficas no consensuadas, filtrarán todos los resultados de búsqueda pornográficos relacionados y eliminarán imágenes duplicadas. Esto significa que si alguien busca contenido de deepfake que incluya el nombre de una persona, Google intentará mostrar contenido de alta calidad y no pornográfico, como artículos de noticias relevantes. Ajder coincide con esta medida, considerando que reducirá significativamente la exposición de contenido de deepfakes pornográficos no consensuados.
Sin embargo, aunque las medidas de Google son un comienzo positivo, aún queda mucho por hacer. A principios de este año, mencioné varias formas de abordar los deepfakes pornográficos no consensuados, incluyendo una mayor regulación, la introducción de marcas de agua y la creación de mecanismos de protección. Sin embargo, las marcas de agua y los mecanismos de protección aún se encuentran en fase experimental y su eficacia no es estable, mientras que los cambios regulatorios están avanzando gradualmente. Por ejemplo, el Reino Unido ha prohibido la creación y difusión de deepfakes pornográficos no consensuados, lo que ha llevado a que sitios web como "Mr DeepFakes" bloqueen el acceso a los usuarios del Reino Unido.
En la Unión Europea, la Ley de IA ya ha entrado en vigor, exigiendo a los creadores de deepfakes que indiquen claramente que los materiales han sido generados por inteligencia artificial. El Senado de Estados Unidos también aprobó la "Ley de Resistencia", que proporciona a las víctimas vías para buscar recursos civiles, aunque esta legislación aún debe ser aprobada por la Cámara de Representantes para entrar en vigor.
Ajder señala que, aunque Google puede identificar sitios web con alto tráfico y trabaja para eliminar sitios web de deepfakes de los resultados de búsqueda, puede hacer más. Hace un llamamiento para reconsiderar la naturaleza de los deepfakes no consensuados, argumentando que deberían estar tan estrictamente prohibidos y tratados como la pornografía infantil. Menciona que las plataformas de internet deben tomar medidas más contundentes para garantizar que este tipo de contenido no se pueda crear ni obtener fácilmente.
Puntos clave:
🌟 Google comienza a actuar, simplificando el proceso para que las víctimas soliciten la eliminación de contenido de deepfakes pornográficos no consensuados.
📜 El Reino Unido ha prohibido completamente la creación y difusión de deepfakes no consensuados, lo que ha impulsado a los sitios web relevantes a tomar medidas restrictivas.
💡 Ajder pide que se reconsidere la naturaleza del contenido de deepfakes no consensuados, enfatizando que debe ser combatido con la misma severidad que la pornografía infantil.