Una nueva controversia sobre los límites de la IA está causando revuelo en el mundo de la tecnología. Se ha descubierto que Gemini 2.0 Flash, el último modelo de inteligencia artificial de Google, posee una capacidad preocupante: puede eliminar fácilmente las marcas de agua de las imágenes, incluidas las marcas de agua profesionales de conocidas bibliotecas de imágenes como Getty Images. Esta función ha generado una gran preocupación entre los creadores y los titulares de derechos de autor.
La semana pasada, Google amplió el acceso a la función de generación de imágenes del modelo Gemini 2.0 Flash, permitiendo que más usuarios experimenten con su potente capacidad de generación y edición de imágenes. Sin embargo, esta decisión parece carecer de las medidas restrictivas necesarias. Los usuarios rápidamente descubrieron que Gemini 2.0 Flash no solo puede generar imágenes que incluyen a celebridades y personajes protegidos por derechos de autor, sino que, lo que es aún más sorprendente, también puede eliminar fácilmente las marcas de agua de las fotografías existentes.
Varios usuarios de X y Reddit han confirmado que Gemini 2.0 Flash, después de eliminar la marca de agua, intenta inteligentemente rellenar las áreas en blanco resultantes. Si bien existen otras herramientas de eliminación de marcas de agua basadas en IA en el mercado, Gemini 2.0 Flash destaca por su excelente rendimiento y, actualmente, es totalmente gratuito para los usuarios, lo que sin duda aumenta los riesgos potenciales de violación de derechos de autor.
Cabe destacar que la función de generación de imágenes de Gemini 2.0 Flash está actualmente etiquetada por Google como "experimental" y "para uso no productivo", y solo está disponible en herramientas para desarrolladores (como AI Studio). Además, el modelo no es una herramienta perfecta para eliminar marcas de agua, especialmente cuando se trata de marcas de agua semitransparentes o que cubren una gran área de la imagen, su efectividad disminuye considerablemente.
A pesar de ello, los titulares de derechos de autor expresan una gran preocupación por esta función que carece de restricciones de uso. En comparación, los modelos de la competencia, como Claude 3.7 Sonnet de Anthropic y GPT-4 de OpenAI, rechazan explícitamente la eliminación de marcas de agua. Claude incluso define directamente la eliminación de marcas de agua de las imágenes como "inmoral y posiblemente ilegal". De hecho, según la ley de derechos de autor de Estados Unidos, la eliminación no autorizada de marcas de agua sin el consentimiento del propietario original suele considerarse ilegal, salvo en contadas excepciones.
Hasta el momento, Google mantiene silencio ante esta controversia. Este incidente vuelve a suscitar una profunda reflexión sobre los límites de la tecnología de IA, el equilibrio entre los intereses comerciales y los derechos de los creadores.