La Oficina de Información de Internet de China ha publicado el "Método de Identificación de Contenido Sintético Generado por Inteligencia Artificial (borrador para consulta pública)", el cual se basa en leyes y regulaciones como la "Ley de Seguridad Cibernética de la República Popular China", las "Regulaciones sobre la Gestión de Recomendaciones de Algoritmos de Servicios de Información en Internet", las "Regulaciones sobre la Gestión de la Síntesis Profunda de Servicios de Información en Internet" y las "Medidas Provisionales para la Gestión de Servicios de Inteligencia Artificial Generativa", entre otras. El plazo para enviar comentarios finaliza el 14 de octubre de 2024.
El "Método" define claramente el contenido sintético generado por inteligencia artificial, incluyendo información como texto, imágenes, audio y video, y distingue entre dos tipos de identificación: explícita e implícita. La identificación explícita es un distintivo visible en el contenido o la interfaz de interacción, mientras que la identificación implícita se añade mediante técnicas tecnológicas a los datos del archivo de contenido, siendo difícil de percibir para el usuario.
El "Método" estipula que los proveedores de servicios, al ofrecer servicios de generación sintética, deben añadir una identificación explícita en la ubicación adecuada según el tipo de contenido, y añadir una identificación implícita en los metadatos del archivo. Además, se exige a los proveedores de servicios de plataformas de difusión de contenido de información en red que adopten medidas para regular la difusión de contenido sintético generado, incluyendo la verificación de la identificación implícita en los metadatos del archivo y la adición de etiquetas de aviso alrededor del contenido publicado.
A continuación, se muestra el texto completo del borrador para consulta pública:
Artículo 1 Para promover el desarrollo saludable de la inteligencia artificial, regular la identificación del contenido sintético generado por inteligencia artificial, proteger los derechos e intereses legítimos de los ciudadanos, personas jurídicas y otras organizaciones, y mantener el interés público, de conformidad con la "Ley de Seguridad Cibernética de la República Popular China", las "Regulaciones sobre la Gestión de Recomendaciones de Algoritmos de Servicios de Información en Internet", las "Regulaciones sobre la Gestión de la Síntesis Profunda de Servicios de Información en Internet", las "Medidas Provisionales para la Gestión de Servicios de Inteligencia Artificial Generativa" y otras leyes, reglamentos administrativos y normas departamentales, se establece el presente método.
Artículo 2 El presente método se aplicará a los proveedores de servicios de información en red (en adelante, "proveedores de servicios") que lleven a cabo la identificación de contenido sintético generado por inteligencia artificial en los casos previstos en las "Regulaciones sobre la Gestión de Recomendaciones de Algoritmos de Servicios de Información en Internet", las "Regulaciones sobre la Gestión de la Síntesis Profunda de Servicios de Información en Internet" y las "Medidas Provisionales para la Gestión de Servicios de Inteligencia Artificial Generativa".
Las organizaciones sectoriales, empresas, instituciones educativas y de investigación, instituciones de cultura pública e instituciones profesionales pertinentes que desarrollen y apliquen tecnología de síntesis generada por inteligencia artificial sin prestar servicios al público dentro del país no estarán sujetas a las disposiciones del presente método.
Artículo 3 El contenido sintético generado por inteligencia artificial se refiere a la información textual, gráfica, de audio y de vídeo elaborada, generada y sintetizada mediante tecnología de inteligencia artificial.
La identificación del contenido sintético generado por inteligencia artificial incluye la identificación explícita y la identificación implícita.
La identificación explícita se refiere a la identificación añadida al contenido generado sintéticamente o a la interfaz de la escena de interacción, presentada en forma de texto, sonido o gráficos, y perceptible claramente por el usuario.
La identificación implícita se refiere a la identificación añadida a los datos del archivo de contenido generado sintéticamente mediante medidas técnicas, que no es fácilmente perceptible para el usuario.
Artículo 4 Si los servicios de generación sintética prestados por los proveedores de servicios pertenecen a los casos del apartado 1 del artículo 17 de las "Regulaciones sobre la Gestión de la Síntesis Profunda de Servicios de Información en Internet", se deberá añadir una identificación explícita al contenido generado sintéticamente de acuerdo con los siguientes requisitos:
(i) Añadir una indicación textual o un símbolo universal en el principio, el final o una posición intermedia adecuada del texto, o añadir una indicación destacada en la interfaz de la escena de interacción o alrededor del texto;
(ii) Añadir una indicación de voz o una indicación de ritmo de audio en el principio, el final o una posición intermedia adecuada del audio, o añadir una indicación destacada en la interfaz de la escena de interacción;
(iii) Añadir una indicación destacada en la posición adecuada de la imagen;
(iv) Añadir una indicación destacada en la posición adecuada de la imagen inicial y alrededor de la reproducción del vídeo, pudiendo añadirse una indicación destacada en la posición adecuada del final e intermedia del vídeo;
(v) Al presentar una escena virtual, se deberá añadir una indicación destacada en la posición adecuada de la imagen inicial, pudiendo añadirse una indicación destacada en la posición adecuada durante el proceso de servicio continuo de la escena virtual;
(vi) En otras situaciones de servicios de generación sintética, se deberá añadir una identificación explícita con un efecto de indicación destacado según las características de la aplicación.
Cuando los proveedores de servicios proporcionen contenido generado sintéticamente para su descarga, copia o exportación, deben asegurarse de que el archivo contenga una identificación explícita que cumpla los requisitos.
Artículo 5 Los proveedores de servicios deben añadir una identificación implícita a los metadatos del archivo del contenido generado sintéticamente de acuerdo con lo dispuesto en el artículo 16 de las "Regulaciones sobre la Gestión de la Síntesis Profunda de Servicios de Información en Internet". La identificación implícita incluye información sobre las propiedades del contenido generado sintéticamente, el nombre o código del proveedor de servicios y el número de contenido, entre otros elementos de producción.
Se anima a los proveedores de servicios a añadir marcas de agua digitales y otras formas de identificación implícita al contenido generado sintéticamente.
Los metadatos del archivo son información descriptiva incrustada en el encabezado del archivo según un formato de codificación específico, utilizada para registrar la fuente, las propiedades, el uso y los derechos de autor del archivo.
Artículo 6 Los proveedores de servicios que prestan servicios de plataformas de difusión de contenido de información en red deben adoptar medidas para regular las actividades de difusión de contenido generado sintéticamente.
(i) Deben verificar si los metadatos del archivo contienen una identificación implícita. Si la contienen, deben añadir una indicación destacada alrededor del contenido publicado de una manera adecuada, recordando claramente al usuario que el contenido es generado sintéticamente;
(ii) Si no se verifica la identificación implícita en los metadatos del archivo, pero el usuario declara que se trata de contenido generado sintéticamente, se debe añadir una indicación destacada alrededor del contenido publicado de una manera adecuada, recordando al usuario que el contenido puede ser generado sintéticamente;
(iii) Si no se verifica la identificación implícita en los metadatos del archivo y el usuario no declara que se trata de contenido generado sintéticamente, pero el proveedor de servicios que presta servicios de plataformas de difusión de contenido de información en red detecta una identificación explícita u otras huellas de generación sintética, puede identificarse como contenido presuntamente generado sintéticamente, debiendo añadirse una indicación destacada alrededor del contenido publicado de una manera adecuada, recordando al usuario que el contenido puede ser generado sintéticamente;
(iv) En el caso de contenido que sea ciertamente, posiblemente o presuntamente generado sintéticamente, se debe añadir a los metadatos del archivo información sobre las propiedades del contenido generado sintéticamente, el nombre o código de la plataforma de difusión y el número de contenido, entre otros elementos de difusión;
(v) Proporcionar las funciones de identificación necesarias y recordar a los usuarios que declaren activamente si el contenido publicado incluye contenido generado sintéticamente.
Artículo 7 Las plataformas de distribución de aplicaciones de Internet deben verificar, durante la revisión de la publicación o puesta en línea de las aplicaciones, si los proveedores de servicios ofrecen las funciones de identificación de contenido generado sintéticamente según lo requerido.
Artículo 8 Los proveedores de servicios deben indicar claramente en el acuerdo de servicio al usuario el método, el estilo y otros contenidos normativos de la identificación del contenido generado sintéticamente, y recordar a los usuarios que lean y comprendan cuidadosamente los requisitos pertinentes de gestión de la identificación.
Artículo 9 Si el usuario necesita que el proveedor de servicios proporcione contenido generado sintéticamente sin identificación explícita, puede proporcionar contenido generado sintéticamente sin identificación explícita después de aclarar las obligaciones de identificación y las responsabilidades de uso del usuario a través del acuerdo de usuario, y conservar los registros correspondientes durante al menos seis meses.
Artículo 10 Cuando los usuarios suban contenido generado sintéticamente a los proveedores de servicios que prestan servicios de plataformas de difusión de contenido de información en red, deben declararlo activamente y utilizar la función de identificación proporcionada por la plataforma para identificarlo.
Ninguna organización ni persona podrá eliminar, modificar, falsificar u ocultar maliciosamente la identificación del contenido generado sintéticamente establecida en el presente método, ni proporcionar herramientas o servicios a otros para llevar a cabo dichas acciones maliciosas, ni perjudicar los derechos e intereses legítimos de otros mediante medios de identificación indebidos.
Artículo 11 Los proveedores de servicios deben realizar la identificación de acuerdo con los requisitos de las normas nacionales obligatorias pertinentes.
Artículo 12 Los proveedores de servicios, al cumplir con los trámites de registro de algoritmos, evaluación de seguridad, etc., deben proporcionar los materiales relacionados con la identificación del contenido generado sintéticamente de acuerdo con el presente método, y deben reforzar el intercambio de información de identificación, para proporcionar apoyo y ayuda a la prevención y lucha contra las actividades delictivas pertinentes.
Artículo 13 Si se viola lo dispuesto en el presente método y no se identifica el contenido generado sintéticamente, causando graves consecuencias, los departamentos competentes, como el de Cibernética, impondrán sanciones de acuerdo con las leyes, reglamentos administrativos y normas departamentales pertinentes.
