La Oficina de Información de Internet de China, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Radio y Televisión han elaborado conjuntamente el "Método de Identificación de Contenido Sintético Generado por Inteligencia Artificial". La publicación de esta nueva normativa tiene como objetivo abordar los problemas sociales derivados de la proliferación de contenido generado por IA, especialmente la difusión de información falsa que afecta al derecho a la información y a los derechos e intereses legítimos del público.

Este método establece claramente que todo el contenido sintético generado por IA, como texto, audio, imágenes y vídeos, debe llevar una marca visible en un lugar adecuado. Esta medida protegerá eficazmente los derechos e intereses legítimos de los ciudadanos, personas jurídicas y otras organizaciones, y mantendrá el interés público. Los requisitos específicos son los siguientes:

Método de Identificación de Contenido Sintético Generado por Inteligencia Artificial

Artículo 1º Para promover el desarrollo saludable de la inteligencia artificial, regular la identificación del contenido sintético generado por inteligencia artificial, proteger los derechos e intereses legítimos de los ciudadanos, personas jurídicas y otras organizaciones, y mantener el interés público, de acuerdo con la Ley de Seguridad Cibernética de la República Popular China, las "Disposiciones para la gestión de la recomendación de algoritmos de servicios de información de Internet", las "Disposiciones para la gestión de la síntesis profunda de servicios de información de Internet", las "Medidas provisionales para la gestión de los servicios de inteligencia artificial generativa", etc., se elabora este método.

Artículo 2º Los proveedores de servicios de información de Internet (en adelante, "proveedores de servicios") que lleven a cabo actividades de identificación de contenido sintético generado por inteligencia artificial en los casos previstos en las "Disposiciones para la gestión de la recomendación de algoritmos de servicios de información de Internet", las "Disposiciones para la gestión de la síntesis profunda de servicios de información de Internet" y las "Medidas provisionales para la gestión de los servicios de inteligencia artificial generativa", estarán sujetos a este método.

Artículo 3º El contenido sintético generado por inteligencia artificial se refiere a la información, como texto, imágenes, audio, vídeo y escenas virtuales, generada o sintetizada mediante tecnología de inteligencia artificial.

La identificación del contenido sintético generado por inteligencia artificial incluye la identificación explícita y la identificación implícita.

La identificación explícita se refiere a la marca añadida en el contenido sintético generado o en la interfaz de la escena interactiva, que se presenta en forma de texto, sonido o gráficos y que puede ser percibida claramente por el usuario.

La identificación implícita se refiere a las medidas técnicas adoptadas para añadir una marca a los datos del archivo de contenido sintético generado, que no es fácilmente perceptible para el usuario.

Artículo 4º Los servicios de síntesis generada proporcionados por los proveedores de servicios que correspondan al apartado 1 del artículo 17 de las "Disposiciones para la gestión de la síntesis profunda de servicios de información de Internet" deberán añadir una identificación explícita al contenido sintético generado de acuerdo con los siguientes requisitos:

(i) Añadir una indicación textual o un símbolo universal en el principio, el final o el centro adecuado del texto, o añadir una indicación destacada en la interfaz de la escena interactiva o alrededor del texto;

(ii) Añadir una indicación de voz o una indicación del ritmo del audio en el principio, el final o el centro adecuado del audio, o añadir una indicación destacada en la interfaz de la escena interactiva;

(iii) Añadir una indicación destacada en la posición adecuada de la imagen;

(iv) Añadir una indicación destacada en la posición adecuada de la imagen inicial del vídeo y alrededor de la reproducción del vídeo; también se puede añadir una indicación destacada en la posición adecuada del final y el centro del vídeo;

(v) Al presentar escenas virtuales, añadir una indicación destacada en la posición adecuada de la imagen inicial; también se puede añadir una indicación destacada en la posición adecuada durante el proceso de servicio continuo de la escena virtual;

(vi) En otros escenarios de servicios de síntesis generada, añadir una indicación destacada de acuerdo con las características de la aplicación.

Cuando los proveedores de servicios proporcionen funciones de descarga, copia o exportación de contenido sintético generado, deberán asegurarse de que el archivo contenga una identificación explícita que cumpla los requisitos.

Artículo 5º Los proveedores de servicios deberán añadir una identificación implícita a los metadatos del archivo del contenido sintético generado de acuerdo con lo dispuesto en el artículo 16 de las "Disposiciones para la gestión de la síntesis profunda de servicios de información de Internet". La identificación implícita incluye información sobre las propiedades del contenido sintético generado, el nombre o código del proveedor de servicios, el número de contenido y otros elementos de producción.

Se anima a los proveedores de servicios a añadir una marca de agua digital u otras formas de identificación implícita al contenido sintético generado.

Los metadatos del archivo son información descriptiva incrustada en el encabezado del archivo de acuerdo con un formato de codificación específico, que se utiliza para registrar la fuente, las propiedades y el uso del contenido del archivo.

Artículo 6º Los proveedores de servicios que prestan servicios de difusión de contenido de información en Internet deberán adoptar las siguientes medidas para regular las actividades de difusión de contenido sintético generado:

(i) Verificar si los metadatos del archivo contienen una identificación implícita; si los metadatos del archivo indican claramente que se trata de contenido sintético generado, se añadirá una indicación destacada alrededor del contenido publicado mediante un método adecuado para recordar al público que dicho contenido es contenido sintético generado;

(ii) Si no se verifica una identificación implícita en los metadatos del archivo, pero el usuario declara que se trata de contenido sintético generado, se añadirá una indicación destacada alrededor del contenido publicado mediante un método adecuado para recordar al público que dicho contenido puede ser contenido sintético generado;

(iii) Si no se verifica una identificación implícita en los metadatos del archivo y el usuario tampoco declara que se trata de contenido sintético generado, pero el proveedor de servicios de difusión de contenido de información en Internet detecta una identificación explícita u otras huellas de síntesis generada, se identifica como contenido presuntamente sintético generado, y se añade una indicación destacada alrededor del contenido publicado mediante un método adecuado para recordar al público que dicho contenido es presuntamente contenido sintético generado;

(iv) Proporcionar las funciones de identificación necesarias y recordar a los usuarios que declaren activamente si el contenido publicado incluye contenido sintético generado.

En los casos mencionados en los apartados 1 a 3 del párrafo anterior, se deberá añadir a los metadatos del archivo información sobre las propiedades del contenido sintético generado, el nombre o código de la plataforma de difusión y el número de contenido, entre otros elementos de difusión.

Artículo 7º Las plataformas de distribución de aplicaciones de Internet deberán exigir a los proveedores de servicios de aplicaciones de Internet que indiquen si ofrecen servicios de síntesis generada por inteligencia artificial al revisar la publicación o puesta en marcha de las aplicaciones. Si los proveedores de servicios de aplicaciones de Internet ofrecen servicios de síntesis generada por inteligencia artificial, las plataformas de distribución de aplicaciones de Internet deberán verificar los materiales relacionados con la identificación del contenido sintético generado.

Artículo 8º Los proveedores de servicios deberán indicar claramente en el acuerdo de servicio al usuario el método, el estilo y otros contenidos normativos de la identificación del contenido sintético generado, y recordar a los usuarios que lean y comprendan cuidadosamente los requisitos de gestión de la identificación.

Artículo 9º Si un usuario solicita a un proveedor de servicios que le proporcione contenido sintético generado sin una identificación explícita, el proveedor de servicios podrá proporcionar contenido sintético generado sin una identificación explícita después de dejar claro en el acuerdo de usuario las obligaciones de identificación y la responsabilidad de uso del usuario, y conservará legalmente la información del objeto proporcionado y otros registros relacionados durante al menos seis meses.

Artículo 10 Los usuarios que publiquen contenido sintético generado utilizando los servicios de difusión de contenido de información en Internet deberán declararlo activamente y utilizar la función de identificación proporcionada por el proveedor de servicios para identificarlo.

Ninguna organización o persona podrá eliminar, modificar, falsificar u ocultar maliciosamente la identificación del contenido sintético generado establecida en este método, ni proporcionar herramientas o servicios a terceros para llevar a cabo las acciones maliciosas mencionadas anteriormente, ni dañar los derechos e intereses legítimos de terceros mediante métodos de identificación indebidos.

Artículo 11º Las actividades de identificación llevadas a cabo por los proveedores de servicios también deberán cumplir los requisitos de las leyes, reglamentos administrativos, normas departamentales y normas nacionales obligatorias pertinentes.

Artículo 12º Los proveedores de servicios deberán proporcionar materiales relacionados con la identificación del contenido sintético generado de acuerdo con este método al realizar los trámites de registro de algoritmos, evaluación de seguridad, etc., y reforzarán el intercambio de información de identificación para proporcionar apoyo y ayuda a la prevención y lucha contra las actividades delictivas pertinentes.

Artículo 13º Los actos que infrinjan lo dispuesto en este método serán tratados por los departamentos competentes de Internet, telecomunicaciones, seguridad pública y radiodifusión, de acuerdo con sus funciones y de acuerdo con las leyes, reglamentos administrativos y normas departamentales pertinentes.

Artículo 14º Este método entrará en vigor el 1 de septiembre de 2025.