A Administração do Ciberespaço da China, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estatal de Rádio e Televisão emitiram conjuntamente as "Medidas para a Marcação de Conteúdo Sintético Gerado por Inteligência Artificial". Esta nova regulamentação visa lidar com os problemas sociais causados pela proliferação de conteúdo gerado por IA, especialmente a disseminação de informações falsas, afetando o direito à informação e os direitos e interesses legítimos do público.
As medidas estipulam que todo o conteúdo sintético gerado por IA, incluindo texto, áudio, imagens e vídeos, deve ser claramente marcado em local apropriado. Esta medida protegerá eficazmente os direitos e interesses legítimos dos cidadãos, pessoas jurídicas e outras organizações, e manterá o interesse público. Os requisitos específicos são os seguintes:
Medidas para a Marcação de Conteúdo Sintético Gerado por Inteligência Artificial
Artigo 1º Para promover o desenvolvimento saudável da inteligência artificial, regular a marcação de conteúdo sintético gerado por inteligência artificial, proteger os direitos e interesses legítimos dos cidadãos, pessoas jurídicas e outras organizações e manter o interesse público, de acordo com a Lei de Segurança Cibernética da República Popular da China, as "Regulamentações para a Gestão de Recomendações de Algoritmos de Serviços de Informação na Internet", as "Regulamentações para a Gestão de Síntese Profunda de Serviços de Informação na Internet", as "Medidas Provisórias para a Gestão de Serviços de Inteligência Artificial Generativa", etc., leis, regulamentos administrativos e regulamentos departamentais, estas medidas são formuladas.
Artigo 2º Os provedores de serviços de informação na internet (doravante denominados "provedores de serviços") que realizam atividades de marcação de conteúdo sintético gerado por inteligência artificial de acordo com as disposições das "Regulamentações para a Gestão de Recomendações de Algoritmos de Serviços de Informação na Internet", as "Regulamentações para a Gestão de Síntese Profunda de Serviços de Informação na Internet" e as "Medidas Provisórias para a Gestão de Serviços de Inteligência Artificial Generativa" estão sujeitos a estas medidas.
Artigo 3º Conteúdo sintético gerado por inteligência artificial refere-se a informações como texto, imagens, áudio, vídeo e cenários virtuais gerados ou sintetizados usando tecnologia de inteligência artificial.
A marcação de conteúdo sintético gerado por inteligência artificial inclui marcação explícita e marcação implícita.
Marcação explícita refere-se a marcas adicionadas ao conteúdo sintético gerado ou à interface da cena de interação, apresentadas em texto, som ou gráficos, e claramente perceptíveis pelo usuário.
Marcação implícita refere-se a medidas técnicas adicionadas aos dados do arquivo de conteúdo sintético gerado, que não são facilmente perceptíveis pelo usuário.
Artigo 4º Os provedores de serviços que fornecem serviços de síntese gerada que se enquadram no parágrafo 1 do Artigo 17 das "Regulamentações para a Gestão de Síntese Profunda de Serviços de Informação na Internet" devem adicionar marcas explícitas ao conteúdo sintético gerado de acordo com os seguintes requisitos:
(i) Adicionar dicas de texto ou símbolos universais no início, no final ou em uma posição apropriada no meio do texto, ou adicionar marcas de dica claras na interface da cena de interação ou ao redor do texto;
(ii) Adicionar dicas de voz ou dicas de ritmo de áudio no início, no final ou em uma posição apropriada no meio do áudio, ou adicionar marcas de dica claras na interface da cena de interação;
(iii) Adicionar marcas de dica claras em uma posição apropriada da imagem;
(iv) Adicionar marcas de dica claras em uma posição apropriada na tela inicial do vídeo e ao redor da reprodução do vídeo, e podem adicionar marcas de dica claras em uma posição apropriada no final e no meio do vídeo;
(v) Ao apresentar cenários virtuais, adicionar marcas de dica claras em uma posição apropriada na tela inicial, e podem adicionar marcas de dica claras em uma posição apropriada durante o processo de serviço contínuo do cenário virtual;
(vi) Outros cenários de serviços de síntese gerada devem adicionar marcas de dica claras de acordo com as características de sua aplicação.
Quando os provedores de serviços fornecem funções de download, cópia e exportação de conteúdo sintético gerado, devem garantir que o arquivo contenha marcas explícitas que atendam aos requisitos.
Artigo 5º Os provedores de serviços devem adicionar marcas implícitas aos metadados do arquivo de conteúdo sintético gerado de acordo com o Artigo 16 das "Regulamentações para a Gestão de Síntese Profunda de Serviços de Informação na Internet", incluindo informações de atributos de conteúdo sintético gerado, nome ou código do provedor de serviços e número de conteúdo, etc., informações de elementos de produção.
Incentiva-se os provedores de serviços a adicionar marcas implícitas, como marcas d'água digitais, ao conteúdo sintético gerado.
Metadados de arquivo referem-se a informações descritivas incorporadas ao cabeçalho do arquivo em um formato de codificação específico, usadas para registrar informações de conteúdo como origem, atributos e uso do arquivo.
Artigo 6º Os provedores de serviços que fornecem serviços de disseminação de conteúdo de informação na internet devem adotar as seguintes medidas para regular as atividades de disseminação de conteúdo sintético gerado:
(i) Verificar se os metadados do arquivo contêm marcas implícitas. Se os metadados do arquivo indicarem claramente que é conteúdo sintético gerado, adicionar marcas de dica claras em torno do conteúdo publicado de forma apropriada, alertando claramente o público de que o conteúdo é conteúdo sintético gerado;
(ii) Se as marcas implícitas não forem verificadas nos metadados do arquivo, mas o usuário declarar que é conteúdo sintético gerado, adicionar marcas de dica claras em torno do conteúdo publicado de forma apropriada para alertar o público de que o conteúdo pode ser conteúdo sintético gerado;
(iii) Se as marcas implícitas não forem verificadas nos metadados do arquivo e o usuário não declarar que é conteúdo sintético gerado, mas o provedor de serviços que fornece serviços de disseminação de conteúdo de informação na internet detectar marcas explícitas ou outros vestígios de síntese gerada, identificar como conteúdo possivelmente sintético gerado e adicionar marcas de dica claras em torno do conteúdo publicado de forma apropriada para alertar o público de que o conteúdo é possivelmente conteúdo sintético gerado;
(iv) Fornecer as funções de marcação necessárias e lembrar os usuários de declarar ativamente se o conteúdo publicado contém conteúdo sintético gerado.
Nos casos dos itens (i) a (iii) acima, informações de atributos de conteúdo sintético gerado, nome ou código da plataforma de disseminação e número de conteúdo, etc., informações de elementos de disseminação devem ser adicionadas aos metadados do arquivo.
Artigo 7º As plataformas de distribuição de aplicativos de internet devem exigir que os provedores de serviços de aplicativos de internet esclareçam se eles fornecem serviços de síntese gerada por inteligência artificial ao revisar a colocação ou o lançamento de aplicativos. Se os provedores de serviços de aplicativos de internet fornecem serviços de síntese gerada por inteligência artificial, as plataformas de distribuição de aplicativos de internet devem verificar os materiais relacionados à marcação de conteúdo sintético gerado.
Artigo 8º Os provedores de serviços devem esclarecer nos contratos de serviço do usuário os métodos, estilos e outras normas de marcação de conteúdo sintético gerado e lembrar os usuários de ler e entender cuidadosamente os requisitos de gestão de marcação relevantes.
Artigo 9º Se o usuário solicitar que o provedor de serviços forneça conteúdo sintético gerado sem marca explícita, o provedor de serviços pode fornecer conteúdo sintético gerado sem marca explícita após esclarecer as obrigações de marcação e responsabilidades de uso do usuário por meio do contrato de usuário e arquivar legalmente informações sobre o objeto fornecido e outros logs relevantes por pelo menos seis meses.
Artigo 10 Os usuários que publicam conteúdo sintético gerado usando serviços de disseminação de conteúdo de informação na internet devem declarar ativamente e usar a função de marcação fornecida pelo provedor de serviços para marcar.
Nenhuma organização ou indivíduo pode excluir, alterar, falsificar ou ocultar maliciosamente as marcas de conteúdo sintético gerado estipuladas nestas medidas, fornecer ferramentas ou serviços para outros para executar tais ações maliciosas ou prejudicar os direitos e interesses legítimos de outros por meio de métodos de marcação impróprios.
Artigo 11 As atividades de marcação dos provedores de serviços também devem atender aos requisitos das leis, regulamentos administrativos, regulamentos departamentais e padrões nacionais obrigatórios relevantes.
Artigo 12 Ao realizar procedimentos como registro de algoritmos e avaliação de segurança, os provedores de serviços devem fornecer materiais relacionados à marcação de conteúdo sintético gerado de acordo com estas medidas, e fortalecer o compartilhamento de informações de marcação para fornecer suporte e assistência na prevenção e combate a atividades ilegais e criminosas relevantes.
Artigo 13 Violações a estas medidas serão tratadas pelos departamentos de supervisão relevantes, como os departamentos de ciberespaço, telecomunicações, segurança pública e rádio e televisão, de acordo com suas responsabilidades e de acordo com as leis, regulamentos administrativos e regulamentos departamentais relevantes.
Artigo 14 Estas medidas entrarão em vigor a partir de 1º de setembro de 2025.