In Florida, USA, ein Mann wurde verhaftet, weil er angeblich Kinderpornografie mit Hilfe von künstlicher Intelligenz erstellt und verbreitet hat. Ihm drohen bis zu 20 Anklagen wegen Obszönität. Dieser Fall hat eine breite Besorgnis über den Missbrauch generativer KI ausgelöst.
Laut CBS12 News heißt der Mann Phillip Michael McCorkle. Er arbeitete in einem Kino in Vero Beach, Florida. Letzte Woche wurde er dort von Strafverfolgungsbeamten verhaftet. Fernsehteams filmten den dramatischen Moment, in dem McCorkle in seiner Uniform von der Polizei abgeführt und gefesselt wurde.
Die Verhaftung erfolgte aufgrund mehrerer Anzeigen beim Büro des Sheriffs von Indian River County, die McCorkle beschuldigten, kinderpornografische Bilder, die mit einem KI-Bildgenerator erstellt wurden, über die Social-Media-App Kik verbreitet zu haben. Die Verhaftung ist Teil einer Kampagne des Countys zur Bekämpfung von Kinderpornografie. Die Art und Weise, wie McCorkle generative KI für kriminelle Zwecke einsetzte, ist jedoch schockierend.
Mit der Verbreitung generativer KI nimmt auch die Verbreitung solcher Kinderpornografie zu, was die Gesetzgeber auf allen Ebenen alarmiert. Viele setzen sich für Gesetze ein, um die Verbreitung solcher unangemessenen Inhalte zu unterbinden. Es ist jedoch unklar, inwieweit diese Maßnahmen effektiv sein werden.
Im vergangenen Jahr erhielt das Nationale Zentrum für vermisste und ausgebeutete Kinder (NCMEC) 4700 Meldungen über kinderpornografische Inhalte, die mit generativer KI erstellt wurden. Besorgniserregend ist, dass einige Verbrecher generative KI-Technologie verwenden, um Deepfakes echter Kinder zu erstellen und sie zu erpressen. Eine Studie der Stanford University aus dem Jahr 2023 zeigte außerdem, dass in weit verbreiteten Datensätzen für generative KI-Bilder Hunderte von Bildern sexuellen Missbrauchs von Kindern gefunden wurden.
Zusammenfassend lässt sich sagen, dass wir es mit einem kaum zu kontrollierenden Problem zu tun haben. Dan Sexton, CTO der Internet Watch Foundation, sagte: „Die von uns entdeckten Inhalte wurden tatsächlich mit Open-Source-Software erstellt, die heruntergeladen und auf persönlichen Computern lokal ausgeführt und dann modifiziert wurde. Dieses Problem ist noch schwieriger zu lösen.“
Wichtigste Punkte:
🛑 Ein Mann aus Florida wurde wegen der Erstellung von Kinderpornografie mit KI verhaftet und muss sich 20 Anklagen stellen.
📱 Er verbreitete diese unangemessenen Inhalte über die Social-Media-App Kik, was öffentliche Besorgnis auslöste.
⚖️ Gesetzgeber auf allen Ebenen setzen sich für Gesetze ein, um solche Inhalte zu verbieten, aber die Wirksamkeit bleibt abzuwarten.