In den letzten Jahren hat sich die KI, von Sprachassistenten bis hin zu selbstfahrenden Autos, in allen Lebensbereichen etabliert. Die breite Anwendung von KI-Technologien birgt jedoch auch einige potenzielle Risiken, wobei Deepfakes besonders besorgniserregend sind.
Deepfakes nutzen Algorithmen, um hochrealistische gefälschte Inhalte zu generieren. Durch das Lernen aus einer großen Menge an echten Daten werden Videos oder Bilder erstellt, die Personen oder Szenen täuschend ähnlich sind. Obwohl diese Technologie die Leistungsfähigkeit der KI demonstriert, fördert sie auch betrügerische Aktivitäten. Ein aktuelles Beispiel ist die unerlaubte Nutzung des Bildes und der Stimme von Dr. Zhang Wenhong für Livestream-Verkäufe. In dem gefälschten Video bewarb ein synthetisches Abbild ein Produkt, wodurch über 1200 Artikel verkauft wurden. Dies führte zu starkem Unmut bei Dr. Zhang Wenhong und der Öffentlichkeit.
Bildquelle: Das Bild wurde mit KI generiert und stammt vom Bildanbieter Midjourney.
Tang Jiansheng, Vize-Generalsekretär des Shanghaier Komitees zum Schutz der Verbraucherrechte, erklärte, dass solche Handlungen, bei denen die KI zur missbräuchlichen Verwendung von Prominentenbildern eingesetzt wird, eine schwerwiegende Verletzung der Verbraucherrechte darstellen. Ähnliche Fälle beinhalten die Erstellung eines satirischen Videos mit dem Bild von Lei Jun während der Nationalfeiertage und die Verwendung der Stimme von Andy Lau zur Gewinnung von Aufmerksamkeit. Betroffene Unternehmen und Prominente haben die Öffentlichkeit bereits vor erhöhter Wachsamkeit gewarnt.
Experten weisen darauf hin, dass die heutige KI-Technologie es ermöglicht, das Gesicht und die Stimme anderer Personen mühelos zu klonen, wobei die generierten Inhalte eine extrem hohe Glaubwürdigkeit aufweisen. Diese Technologie ist jedoch nicht fehlerfrei. Durch sorgfältige Beobachtung der Übereinstimmung zwischen Gesicht und Hintergrund oder der Synchronität von Stimme und Mundbewegung lassen sich Anomalien erkennen. Darüber hinaus ist die Realisierung von Live-Streams mit dieser Technologie derzeit schwierig.
Juristen stellen klar, dass die nicht autorisierte Nutzung des Bildes oder der Stimme anderer Personen rechtswidrig ist. Zhu Wei, außerordentlicher Professor an der China University of Political Science and Law, betont, dass diese Handlung gemäß dem Bürgerlichen Gesetzbuch eine Verletzung der Persönlichkeitsrechte darstellt; gemäß dem Gesetz über Netzwerksicherheit handelt es sich bei den entsprechenden Inhalten um rechtswidrige Informationen, und die Veröffentlichung kann sogar strafrechtliche Konsequenzen haben.
Verbraucher, die aufgrund von KI-basierten Fälschungen von Prominenten Waren gekauft haben, können gemäß dem Gesetz zum Schutz der Verbraucherrechte die Rückgabe der Ware und eine dreifache Entschädigung verlangen, wobei die Mindestsumme bei 500 Yuan liegt. Gleichzeitig sind Kurzvideo-Plattformen in der Pflicht, die Aufsicht zu verstärken und die Prüfung und Bestrafung der entsprechenden Inhalte zu verschärfen, um die Verbreitung rechtswidriger Informationen zu verhindern.
Der Aufstieg von Deepfakes mahnt die Öffentlichkeit, bei der Nutzung der Vorteile der KI auch die potenziellen Risiken zu berücksichtigen.