Die spanische Regierung hat kürzlich ein neues Gesetz verabschiedet, das Unternehmen, die KI-generierte Inhalte nicht korrekt kennzeichnen, mit hohen Geldstrafen belegen soll, um dem Phänomen des „Deepfakes“ entgegenzuwirken.
Der Minister für digitale Transformation, Oscar López, erklärte auf einer Pressekonferenz, dass das Gesetz auf der Grundlage des EU-AI-Gesetzes strenge Transparenzanforderungen für als hochriskant eingestufte KI-Systeme vorschreibt.
Bildquelle: Das Bild wurde mit KI generiert und von Midjourney lizenziert.
López wies darauf hin, dass künstliche Intelligenz zwar die Lebensqualität verbessern kann, aber auch zur Verbreitung von Fehlinformationen und zur Untergrabung der Demokratie eingesetzt werden kann und somit potenzielle Risiken birgt. Er betonte, dass jeder Opfer von „Deepfake“-Angriffen werden kann, bei denen durch KI-Technologie bearbeitete oder generierte Videos, Fotos und Audios als authentisch getarnt werden, um die Öffentlichkeit zu täuschen.
Nach dem neuen Gesetz gilt die unzureichende Kennzeichnung von KI-generierten Inhalten als „schwerer Verstoß“ und kann mit einer Geldstrafe von bis zu 35 Millionen Euro (ca. 38,2 Millionen US-Dollar) geahndet werden, oder mit einer Geldstrafe in Höhe von 7 % des weltweiten Jahresumsatzes des Unternehmens. Darüber hinaus verbietet das Gesetz manipulative Praktiken, wie z. B. die Verwendung von subliminalen Techniken zur Beeinflussung vulnerabler Gruppen. López erwähnte, dass Chatbots spielsuchtgefährdete Personen zum Glücksspiel animieren könnten und bestimmte Spielzeuge Kinder zu gefährlichen Aktivitäten verleiten könnten.
Das Gesetz verbietet außerdem, dass Institutionen KI verwenden, um Personen anhand biometrischer Daten zu kategorisieren oder zu bewerten, um deren Zugang zu Sozialleistungen oder die Einschätzung ihres Kriminalitätsrisikos zu beeinflussen. Aus Gründen der nationalen Sicherheit ist die Echtzeit-biometrische Überwachung im öffentlichen Raum jedoch weiterhin erlaubt.
Die Durchsetzung der neuen Vorschriften obliegt der neu eingerichteten KI-Aufsichtsbehörde AESIA, wobei bestimmte Fälle im Zusammenhang mit Datenschutz, Kriminalität, Wahlen, Kreditwürdigkeit, Versicherungen und Kapitalmärkten von den zuständigen Aufsichtsbehörden verwaltet werden. Das Gesetz muss noch vom Unterhaus gebilligt werden, bevor es in Kraft treten kann. Spanien wird damit zu einem der ersten EU-Länder gehören, die diese Vorschriften umsetzen.
Wichtigste Punkte:
📜 Spanien verhängt hohe Geldstrafen für Unternehmen, die KI-generierte Inhalte nicht kennzeichnen.
💡 Die Höchststrafe beträgt 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.
🔒 Das Gesetz verbietet die Verwendung subliminaler Techniken zur Beeinflussung vulnerabler Gruppen, und Aufsichtsbehörden werden die neuen Vorschriften durchsetzen.