KI-Technologie ist ein zweischneidiges Schwert: Sie bietet Vorteile, birgt aber auch Risiken. Um diese Risiken besser zu managen, hat Gouverneur Gavin Newsom von Kalifornien kürzlich neun Gesetze unterzeichnet, die sich speziell auf KI-generierte Inhalte, insbesondere Deepfakes, konzentrieren.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Besonders hervorzuheben ist das Gesetz SB1047, das KI-Entwickler verpflichtet, Sicherheitsmaßnahmen zu ergreifen, um katastrophale Ereignisse wie Massenopfer oder Cyberangriffe zu verhindern. Gouverneur Newsom hat sich noch nicht klar zu diesem Gesetz geäußert. Die Gesetze AB2602 und AB1836 konzentrieren sich auf den Schutz der Rechte von Schauspielern und Darstellern.
AB2602 schreibt vor, dass bei der Verwendung von KI-generierten Stimmen oder Bildern von Darstellern Verträge abgeschlossen werden müssen und ein professioneller Vertreter an den Verhandlungen beteiligt sein muss.
AB1836 verbietet die kommerzielle Verwendung von Deepfakes verstorbener Darsteller ohne Zustimmung ihrer Angehörigen.
Newsom erklärte: „Wir erforschen ständig, wie KI und digitale Medien die Unterhaltungsbranche verändern, aber unser Kernanliegen ist der Schutz der Mitarbeiter. Diese Gesetze gewährleisten, dass die Branche weiterhin florieren kann und gleichzeitig der Schutz der Mitarbeiter gestärkt wird.“
Die Gesetze beinhalten auch Maßnahmen zur Bekämpfung des Missbrauchs von KI-generierten Inhalten:
SB926 kriminalisiert die Herstellung und Verbreitung von scheinbar realen pornografischen Bildern;
SB981 verpflichtet Social-Media-Plattformen zur Einrichtung von Meldemechanismen für von Nutzern gemeldete pornografische Deepfakes;
SB942 schreibt vor, dass KI-Systeme unsichtbare Wasserzeichen in die generierten Inhalte einfügen und Erkennungstools bereitstellen müssen.
Im Zusammenhang mit Wahlen sollen die Gesetze AB2655, AB2839, AB2355 und AB2905 die Verwendung von Deepfakes und anderen irreführenden digitalen Inhalten bekämpfen, um die Fairness und Transparenz von Wahlen zu schützen.
AB2655 verpflichtet große Online-Plattformen, in bestimmten Zeiträumen vor und nach Wahlen irreführende oder digital veränderte politische Inhalte zu entfernen oder zu kennzeichnen, und sie müssen Meldemechanismen anbieten.
AB2839 erweitert den Zeitraum, in dem politischen Organisationen die Verbreitung von Werbung oder anderen Wahlmaterialien mit irreführenden KI-generierten Inhalten verboten ist.
AB2355 schreibt vor, dass politische Werbung, die KI-generierte Inhalte verwendet, die Veränderung des Materials offenlegen muss.
AB2905 verpflichtet automatische Anrufdienste, die Empfänger darüber zu informieren, ob die Stimme künstlich erzeugt wurde.
Newsom betonte: „Der Schutz der Integrität von Wahlen ist für die Demokratie unerlässlich, und wir müssen sicherstellen, dass KI nicht verwendet wird, um das Vertrauen der Öffentlichkeit durch Falschinformationen zu untergraben. Diese Maßnahmen werden dazu beitragen, den schädlichen Einsatz von Deepfakes in der politischen Werbung zu bekämpfen.“
Wichtigste Punkte:
📜 Newsom unterzeichnet neun Gesetze zur strengeren Regulierung von KI-generierten Inhalten.
🎭 Schutz des digitalen Images von Schauspielern und Darstellern vor nicht autorisierter KI-Nutzung.
🔍 Bekämpfung von KI-generierten pornografischen Inhalten und irreführenden Informationen in Wahlkämpfen.