Ein kürzlich verhandelter Fall in Großbritannien hat große Aufmerksamkeit erregt. Ein 27-jähriger Mann, Hugh Nelson, wurde zu 18 Jahren Haft verurteilt, weil er mit Hilfe von künstlicher Intelligenz normale Fotos von Kindern in Kinderpornografie verwandelt hat. Bildquelle: Bild wurde mit KI erstellt, Bildlizenzgeber Midjourney. Nelson aus Bolton verwendete eine Anwendung namens Daz3D, um 3D-„Charaktere“ zu erstellen, die auf Fotos unschuldiger Kinder basierten. Erschreckend ist, dass Nelson...

LAION veröffentlicht Re-LAION-5B, den weltweit ersten AI-Trainingsdatensatz, der vollständig von Links zu CSAM (Child Sexual Abuse Material) bereinigt wurde, um das Problem von Kinderpornografie anzugehen. Dieser Datensatz wurde auf Basis von LAION-5B erheblich verbessert und umfasst die Versionen Re-LAION-5B Research und Research-Safe. Insgesamt wurden 2236 Links zu CSAM entfernt, davon 1008 von einer Liste einer Kinderschutzorganisation. Der Datensatz enthält 5,5 Milliarden Text-Bild-Paare und soll helfen...

Ein Mann aus Florida, USA, wurde verhaftet, weil er angeblich mit künstlicher Intelligenz kinderpornografische Inhalte erstellt hat, und ihm werden bis zu 20 Anklagen wegen Obszönität vorgeworfen. Der Mitarbeiter eines Kinos verbreitete über die Social-Media-App Kik kinderpornografische Bilder, die mit einem KI-Bildgenerator erstellt wurden, was breite Aufmerksamkeit erregte. Der Fall betrifft den Missbrauch generativer KI und veranlasst Gesetzgeber auf allen Ebenen, Gesetze zur Unterbindung der Verbreitung unangemessener Inhalte zu fördern. Im vergangenen Jahr erhielt das Nationale Zentrum für Vermisste und Ausgebeutete Kinder (NCMEC) 4700 entsprechende Meldungen, darunter auch Fälle, in denen Deepfakes echter Kinder mit generativer KI erstellt und zur Erpressung verwendet wurden.

Ein Bericht der Anglia Ruskin University zeigt einen rasanten Anstieg der Nachfrage nach KI-generierten Bildern von Kindesmissbrauch im Darknet. Dr. Deanna Davida und Professor Sam Leendertz analysierten die Chatverläufe von Darknet-Foren der letzten 12 Monate und stellten fest, dass das Interesse von Online-Kriminellen an der Herstellung von Kinderpornografie mithilfe von KI-Technologien zunimmt. Sie erstellen online KI-generierte Missbrauchsbilder, indem sie sich selbst schulen und Erfahrungen austauschen. Die Studie weist darauf hin, dass die KI-Technologie die Strafverfolgungsbehörden vor enorme Herausforderungen stellt, wenn es darum geht, KI-generierte Materialien zu verstehen und zu bekämpfen.

Einem neuen Bericht zufolge wurden KI-Bildgeneratoren mit Tausenden von Bildern von Kinderpornografie trainiert. Der Bericht fordert Unternehmen auf, die technischen Schwachstellen zu beheben. Diese Bilder erleichtern es KI-Systemen, realistische gefälschte Kinderbilder zu generieren und verwandeln sogar bekleidete Fotos von Teenagern in sozialen Medien in Nacktbilder. Das Problem lässt sich nicht einfach lösen und erfordert Maßnahmen der Unternehmen, um die technischen Schwachstellen zu beheben.

Ein Kinderpsychiater aus North Carolina wurde wegen Herstellung, Besitz und Verbreitung von kinderpornografischem Material (CSAM) verurteilt. Dem Kinderpsychiater David Tatum wurde vorgeworfen, heimlich Aufnahmen seiner Patienten gemacht und mithilfe von KI-Software illegale Bilder und Videos erstellt zu haben. Die Staatsanwaltschaft erklärte, dass das Verhalten des Psychiaters Kindern geschadet habe, und er wurde zu 40 Jahren Haft und 30 Jahren Bewährung verurteilt.

Die Generalstaatsanwälte aller 50 US-Bundesstaaten fordern den Kongress auf, einen Ausschuss zur Untersuchung der Auswirkungen von KI-generierter Kinderpornografie einzurichten. Dieser Ausschuss soll Lösungen vorschlagen, um zu verhindern, dass KI zur Erstellung gefälschter Inhalte sexuellen Missbrauchs von Kindern verwendet wird. Es wird gefordert, den rechtlichen Rahmen zu erweitern und KI-generierte Kinderpornografie explizit als illegal zu definieren.