Hoy en día, las deepfakes y los medios sintéticos son cada vez más comunes gracias al desarrollo de la inteligencia artificial generativa (IA generativa). Para abordar este desafío, muchas organizaciones están trabajando para mejorar la tecnología de marcas de agua digitales para rastrear el origen del contenido.
Aunque todavía no hay una organización que haya tenido un éxito completo, la "Content Authenticity Initiative" (C2PA) está aumentando su membresía. C2PA anunció que Amazon se ha unido a su consejo directivo.
C2PA es un organismo de estándares tecnológicos abiertos afiliado a la Fundación Linux, cuyo objetivo es abordar la proliferación de información errónea en línea mediante el establecimiento de estándares técnicos. Cofundada por Adobe, la organización mantiene el método de "certificados de contenido", diseñado para mejorar la transparencia del origen del contenido digital. Los certificados de contenido pueden mostrar cómo y cuándo se generó o modificó un contenido. C2PA espera convertir los certificados de contenido en un estándar de la industria.
Tras unirse a C2PA, Amazon se comprometió a asociar los certificados de contenido con las versiones uno y dos de su generador de imágenes de IA empresarial, Titan Image Generator. Amazon afirma que los certificados de contenido permitirán a los consumidores verificar la autenticidad y el origen del contenido generado por IA.
Además, Amazon planea agregar herramientas de origen a su servicio AWS Elemental MediaConvert, un servicio de procesamiento de archivos para codificar contenido a gran escala para su distribución en radiodifusión y multi-pantalla. Esto permitirá a los clientes, como agencias de noticias, emisoras deportivas y agregadores de contenido, verificar el origen del contenido de video que comparten.
Vasi Philomin, vicepresidente de IA generativa de AWS, dijo que las imágenes generadas por Titan incluyen marcas de agua invisibles de forma predeterminada, lo que ayudará a reducir la propagación de información errónea. También señaló que unirse a C2PA y adoptar los certificados de contenido representa un paso importante para Amazon en su camino hacia la innovación responsable en IA.
Sin embargo, la lista de miembros de C2PA ha generado preocupación entre algunas organizaciones de autenticación de contenido digital. En julio de este año, Numbers Protocol, una organización de autenticación de contenido digital, y otras organizaciones de blockchain e IA formaron la "Creative Origin Coalition", una "alternativa transparente y descentralizada" que busca brindar a todos los miembros una voz igualitaria e involucrar a los creadores en la toma de decisiones.
La formación de esta coalición se debe a una actualización de los términos de servicio de Adobe que generó preocupación entre la comunidad creativa sobre las grandes empresas. La Creative Origin Coalition espera amplificar las voces de los pequeños creadores en materia de privacidad y tecnología de código abierto, posicionándose como el "David" frente al "Goliat" de C2PA.
Puntos clave:
🌟 Amazon se une a C2PA para mejorar la transparencia del origen del contenido generado por IA.
🔍 Los certificados de contenido ayudarán a los usuarios a verificar la autenticidad del contenido digital y reducir la propagación de información errónea.
🤝 Se forma la Creative Origin Coalition para brindar una voz igualitaria a los pequeños creadores y desafiar la influencia de C2PA.
