Das Cyberspace-Administrationsamt Chinas, das Ministerium für Industrie und Informationstechnologie, das Ministerium für Öffentliche Sicherheit und die Staatliche Verwaltung für Radio, Film und Fernsehen haben gemeinsam die „Verordnung über die Kennzeichnung von durch künstliche Intelligenz generierten und synthetisierten Inhalten“ erlassen. Diese neue Verordnung zielt darauf ab, den gesellschaftlichen Problemen zu begegnen, die durch die zunehmende Verbreitung von KI-generierten Inhalten entstehen, insbesondere der Verbreitung von Falschinformationen, die das Recht der Öffentlichkeit auf Information und ihre berechtigten Interessen beeinträchtigen.

Die Verordnung schreibt vor, dass alle durch KI generierten synthetischen Inhalte wie Texte, Audiodateien, Bilder und Videos an geeigneter Stelle deutlich gekennzeichnet werden müssen. Diese Maßnahme soll die rechtmäßigen Interessen von Bürgern, juristischen Personen und anderen Organisationen wirksam schützen und das öffentliche Wohl wahren. Die konkreten Anforderungen lauten wie folgt:

Verordnung über die Kennzeichnung von durch künstliche Intelligenz generierten und synthetisierten Inhalten

Artikel 1: Um die gesunde Entwicklung der künstlichen Intelligenz zu fördern, die Kennzeichnung von durch künstliche Intelligenz generierten und synthetisierten Inhalten zu regeln, die rechtmäßigen Interessen von Bürgern, juristischen Personen und anderen Organisationen zu schützen und das öffentliche Wohl zu wahren, wird diese Verordnung gemäß dem „Gesetz der Volksrepublik China über die Cybersicherheit“, den „Vorschriften über das Algorithmus-Empfehlungsmanagement für Internetinformationsdienste“, den „Vorschriften über das Management von Deep Synthesis von Internetinformationsdiensten“ und den „Provisorischen Maßnahmen zur Verwaltung von generativen KI-Diensten“ sowie anderen Gesetzen, Verwaltungsverordnungen und ministeriellen Vorschriften erlassen.

Artikel 2: Diese Verordnung gilt für Anbieter von Internetinformationsdiensten (im Folgenden „Dienstleister“), die gemäß den „Vorschriften über das Algorithmus-Empfehlungsmanagement für Internetinformationsdienste“, den „Vorschriften über das Management von Deep Synthesis von Internetinformationsdiensten“ und den „Provisorischen Maßnahmen zur Verwaltung von generativen KI-Diensten“ Tätigkeiten zur Kennzeichnung von durch künstliche Intelligenz generierten und synthetisierten Inhalten ausüben.

Artikel 3: Durch künstliche Intelligenz generierte und synthetisierte Inhalte sind Informationen wie Texte, Bilder, Audiodateien, Videos und virtuelle Szenen, die mithilfe von KI-Technologien generiert und synthetisiert werden.

Die Kennzeichnung von durch künstliche Intelligenz generierten und synthetisierten Inhalten umfasst explizite und implizite Kennzeichnungen.

Explizite Kennzeichnungen sind Kennzeichnungen, die in den generierten und synthetisierten Inhalten oder der Benutzeroberfläche der Interaktionsszene hinzugefügt werden und in Form von Text, Ton, Grafiken usw. dargestellt werden und vom Benutzer deutlich wahrgenommen werden können.

Implizite Kennzeichnungen sind Kennzeichnungen, die durch technische Maßnahmen in den Datendateien der generierten und synthetisierten Inhalte hinzugefügt werden und vom Benutzer nicht leicht wahrgenommen werden können.

Artikel 4: Wenn die von den Anbietern angebotenen generativen und synthetischen Dienste unter Artikel 17 Absatz 1 der „Vorschriften über das Management von Deep Synthesis von Internetinformationsdiensten“ fallen, müssen sie den generierten und synthetisierten Inhalten gemäß den folgenden Anforderungen explizite Kennzeichnungen hinzufügen:

(i) Hinzufügen von Texthinweisen oder allgemeinen Symbolhinweisen am Anfang, Ende oder an einer geeigneten Stelle im Text, oder Hinzufügen von deutlichen Hinweiskennzeichnungen in der Benutzeroberfläche der Interaktionsszene oder in der Nähe des Texts;

(ii) Hinzufügen von Sprachhinweisen oder Audio-Rhythmus-Hinweisen am Anfang, Ende oder an einer geeigneten Stelle in der Audiodatei, oder Hinzufügen von deutlichen Hinweiskennzeichnungen in der Benutzeroberfläche der Interaktionsszene;

(iii) Hinzufügen von deutlichen Hinweiskennzeichnungen an geeigneter Stelle im Bild;

(iv) Hinzufügen von deutlichen Hinweiskennzeichnungen an geeigneter Stelle im Anfangsbild und in der Nähe der Videowiedergabe, wobei an geeigneter Stelle am Ende und in der Mitte des Videos deutliche Hinweiskennzeichnungen hinzugefügt werden können;

(v) Beim Anzeigen virtueller Szenen Hinzufügen von deutlichen Hinweiskennzeichnungen an geeigneter Stelle im Anfangsbild, wobei an geeigneter Stelle während des kontinuierlichen Dienstes der virtuellen Szene deutliche Hinweiskennzeichnungen hinzugefügt werden können;

(vi) In anderen Szenarien von generativen und synthetischen Diensten Hinzufügen von deutlichen Hinweiskennzeichnungen entsprechend den jeweiligen Anwendungseigenschaften.

Wenn Dienstanbieter Funktionen zum Herunterladen, Kopieren und Exportieren von generierten und synthetisierten Inhalten anbieten, müssen sie sicherstellen, dass die Datei die erforderlichen expliziten Kennzeichnungen enthält.

Artikel 5: Dienstleister müssen gemäß Artikel 16 der „Vorschriften über das Management von Deep Synthesis von Internetinformationsdiensten“ implizite Kennzeichnungen in den Metadaten der Datei der generierten und synthetisierten Inhalte hinzufügen. Implizite Kennzeichnungen enthalten Informationen über die Attribute der generierten und synthetisierten Inhalte, den Namen oder Code des Dienstanbieters und die Inhaltsnummer sowie andere Produktionsinformationen.

Dienstleister werden dazu ermutigt, in die generierten und synthetisierten Inhalte digitale Wasserzeichen oder andere Formen impliziter Kennzeichnungen einzubetten.

Metadaten sind beschreibende Informationen, die gemäß einem bestimmten Codierungsformat in den Dateikopf eingebettet sind und dazu dienen, Informationen über die Herkunft, die Attribute und den Verwendungszweck der Datei aufzuzeichnen.

Artikel 6: Anbieter von Diensten zur Verbreitung von Inhalten im Internet müssen die folgenden Maßnahmen ergreifen, um die Verbreitung von generierten und synthetisierten Inhalten zu regulieren:

(i) Überprüfung der Metadaten der Datei auf das Vorhandensein impliziter Kennzeichnungen. Wenn die Metadaten der Datei eindeutig als generierte und synthetisierte Inhalte gekennzeichnet sind, müssen geeignete Maßnahmen ergriffen werden, um deutliche Hinweiskennzeichnungen in der Nähe der veröffentlichten Inhalte hinzuzufügen, um die Öffentlichkeit deutlich darauf hinzuweisen, dass es sich bei dem Inhalt um generierte und synthetisierte Inhalte handelt;

(ii) Wenn in den Metadaten der Datei keine impliziten Kennzeichnungen überprüft wurden, der Benutzer jedoch erklärt, dass es sich um generierte und synthetisierte Inhalte handelt, müssen geeignete Maßnahmen ergriffen werden, um deutliche Hinweiskennzeichnungen in der Nähe der veröffentlichten Inhalte hinzuzufügen, um die Öffentlichkeit darauf hinzuweisen, dass es sich bei dem Inhalt möglicherweise um generierte und synthetisierte Inhalte handelt;

(iii) Wenn in den Metadaten der Datei keine impliziten Kennzeichnungen überprüft wurden und der Benutzer auch nicht erklärt hat, dass es sich um generierte und synthetisierte Inhalte handelt, der Anbieter von Diensten zur Verbreitung von Inhalten im Internet jedoch explizite Kennzeichnungen oder andere Spuren der Generierung und Synthese festgestellt hat, muss der Inhalt als mutmaßlich generierte und synthetisierte Inhalte identifiziert werden, und es müssen geeignete Maßnahmen ergriffen werden, um deutliche Hinweiskennzeichnungen in der Nähe der veröffentlichten Inhalte hinzuzufügen, um die Öffentlichkeit darauf hinzuweisen, dass es sich bei dem Inhalt möglicherweise um generierte und synthetisierte Inhalte handelt;

(iv) Bereitstellung der notwendigen Kennzeichnungsfunktionen und Aufforderung der Benutzer, aktiv zu erklären, ob die veröffentlichten Inhalte generierte und synthetisierte Inhalte enthalten.

In den Fällen gemäß Absatz 1 Ziffern i bis iii müssen in den Metadaten der Datei Informationen über die Attribute der generierten und synthetisierten Inhalte, den Namen oder Code der Verbreitungsplattform und die Inhaltsnummer sowie andere Verbreitungsinformationen hinzugefügt werden.

Artikel 7: Plattformen zur Verbreitung von Internetanwendungen müssen bei der Prüfung der Veröffentlichung oder des Onlinestellens von Anwendungen von Anbietern von Internetanwendungen verlangen, anzugeben, ob sie Dienste zur Generierung und Synthese von Inhalten durch künstliche Intelligenz anbieten. Wenn Anbieter von Internetanwendungen Dienste zur Generierung und Synthese von Inhalten durch künstliche Intelligenz anbieten, müssen Plattformen zur Verbreitung von Internetanwendungen die entsprechenden Unterlagen zur Kennzeichnung von generierten und synthetisierten Inhalten überprüfen.

Artikel 8: Dienstleister müssen in ihren Nutzungsbedingungen die Methoden, Stile usw. zur Kennzeichnung von generierten und synthetisierten Inhalten klar erläutern und die Benutzer auffordern, die entsprechenden Anforderungen an das Kennzeichnungsmanagement sorgfältig zu lesen und zu verstehen.

Artikel 9: Wenn Benutzer bei Dienstanbietern die Bereitstellung von generierten und synthetisierten Inhalten ohne explizite Kennzeichnung beantragen, können Dienstanbieter nach eindeutiger Regelung der Kennzeichnungspflicht und der Nutzungsrechte der Benutzer in der Nutzervereinbarung generierte und synthetisierte Inhalte ohne explizite Kennzeichnung bereitstellen und die Informationen über die Bereitstellungsempfänger sowie andere relevante Protokolle mindestens sechs Monate lang rechtmäßig aufbewahren.

Artikel 10: Benutzer, die generierte und synthetisierte Inhalte über Dienste zur Verbreitung von Inhalten im Internet veröffentlichen, müssen dies aktiv erklären und die vom Dienstanbieter bereitgestellten Kennzeichnungsfunktionen verwenden.

Es ist Organisationen und Einzelpersonen untersagt, die in dieser Verordnung festgelegten Kennzeichnungen für generierte und synthetisierte Inhalte böswillig zu löschen, zu ändern, zu fälschen oder zu verbergen, anderen die Durchführung solcher böswilligen Handlungen zu ermöglichen oder Dienste dafür bereitzustellen oder durch unzulässige Kennzeichnungsmethoden die rechtmäßigen Interessen anderer zu schädigen.

Artikel 11: Dienstleister, die Kennzeichnungstätigkeiten durchführen, müssen auch die Anforderungen der einschlägigen Gesetze, Verwaltungsverordnungen, ministeriellen Vorschriften und verbindlichen nationalen Standards erfüllen.

Artikel 12: Dienstleister müssen bei der Erfüllung von Verfahren wie der Algorithmusregistrierung und der Sicherheitsbewertung die entsprechenden Unterlagen zur Kennzeichnung von generierten und synthetisierten Inhalten gemäß dieser Verordnung vorlegen und den Austausch von Kennzeichnungsinformationen verstärken, um die Prävention und Bekämpfung von entsprechenden illegalen und kriminellen Aktivitäten zu unterstützen.

Artikel 13: Verstöße gegen diese Verordnung werden von den zuständigen Aufsichtsbehörden im Bereich Cyberspace, Telekommunikation, öffentliche Sicherheit und Rundfunk und Fernsehen gemäß ihren Zuständigkeiten und gemäß den einschlägigen Gesetzen, Verwaltungsverordnungen und ministeriellen Vorschriften behandelt.

Artikel 14: Diese Verordnung tritt am 1. September 2025 in Kraft.