En el contexto de la creciente popularidad de la tecnología de imágenes de inteligencia artificial, Google anunció que a partir de la semana que viene introducirá una nueva función de etiquetado de edición con IA en su aplicación Google Fotos. Todas las fotos editadas con funciones de IA como Magic Editor, Magic Eraser y Zoom Enhance mostrarán la etiqueta "Editado con IA de Google" en la parte inferior de la sección "Detalles" de la aplicación.
Esta actualización se produce dos meses después del lanzamiento de Google del teléfono Pixel 9, que incluye varias funciones de edición de fotos con IA. Sin embargo, este método de etiquetado ha generado cierta controversia. Si bien Google afirma que esta medida tiene como objetivo "mejorar aún más la transparencia", la efectividad real es cuestionable: las fotos en sí no tendrán ninguna marca de agua visible, lo que significa que los usuarios no podrán identificar fácilmente si las fotos han sido procesadas con IA al compartirlas en redes sociales, mensajería instantánea o durante la navegación diaria.
Para funciones de edición de fotos que no utilizan IA generativa, como Best Take y Add Me, Google Fotos también etiquetará la información de edición en los metadatos, pero no se mostrará en la etiqueta de detalles. Estas funciones se utilizan principalmente para combinar varias fotos en una sola imagen completa.
Michael Marconi, gerente de comunicaciones de Google Fotos, declaró en una entrevista con TechCrunch: "Este trabajo aún no está terminado. Seguiremos recopilando comentarios, reforzando y mejorando las medidas de seguridad y evaluando otras soluciones para aumentar la transparencia de la edición con IA generativa". Aunque la empresa no ha indicado explícitamente si añadirá marcas de agua visibles en el futuro, tampoco lo ha descartado por completo.
Cabe destacar que actualmente todas las fotos editadas con IA de Google ya incluyen información de edición de IA en los metadatos. La nueva función simplemente traslada esta información a la etiqueta de detalles, más fácil de encontrar. Sin embargo, la efectividad de esta medida es preocupante, ya que la mayoría de los usuarios no suelen consultar los metadatos o los detalles al ver imágenes en línea.
Por supuesto, añadir marcas de agua visibles dentro del marco de la foto tampoco es una solución perfecta. Estas marcas de agua se pueden recortar o editar fácilmente, por lo que el problema persiste. Con la creciente popularidad de las herramientas de imágenes de IA de Google, es probable que aumente la cantidad de contenido sintético en internet, lo que dificulta cada vez más a los usuarios la distinción entre contenido real y falso.
El método actual de Google de usar marcas de agua en los metadatos depende en gran medida de que las diferentes plataformas identifiquen el contenido generado por IA para los usuarios. Meta ya ha implementado esta práctica en Facebook e Instagram, y Google planea identificar las imágenes de IA en los resultados de búsqueda a finales de este año. Sin embargo, el progreso de otras plataformas en este sentido es lento.
Esta controversia pone de manifiesto un tema importante en el desarrollo de la IA: cómo impulsar la innovación tecnológica al mismo tiempo que se garantiza la autenticidad del contenido y el derecho a la información de los usuarios. Aunque Google ha dado un primer paso para mejorar la transparencia, claramente se necesitan más esfuerzos y mejoras para evitar que el contenido sintético engañe a los usuarios.