Einem aktuellen Bericht der Menschenrechtsorganisation Human Rights Watch (HRW) zufolge wurden in den Trainingsdaten einiger beliebter KI-Bildgeneratoren zahlreiche Fotos brasilianischer Kinder ohne deren Zustimmung verwendet. Dies wirft ernste Fragen zum Datenschutz und zur Sicherheit von Kindern auf.
Der Bericht stellt fest, dass HRW-Forscher bei der Analyse des umfangreichen öffentlichen Datensatzes „LAION-5B“ mindestens 170 Fotos brasilianischer Kinder aus 10 Bundesstaaten entdeckt haben. Die Bilder zeigen die Kinder in verschiedenen Altersstufen, vom Säuglingsalter bis zur Pubertät, und stammen größtenteils von privaten Blogs und Videos, die im kleinen Kreis von Freunden und Verwandten geteilt wurden und nicht für die Öffentlichkeit bestimmt waren.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Besonders besorgniserregend ist, dass viele Fotos Namen und Ortsangaben der Kinder enthalten, wodurch ihre Identität leicht festgestellt werden kann. Die missbräuchliche Verwendung dieser Bilder birgt das Risiko von Mobbing, Phishing und anderen Gefahren. Experten befürchten zudem, dass mit Hilfe von KI-basierter Gesichtserkennungstechnologie Kinderpornos mit den Bildern der Kinder erstellt werden könnten.
Der Bericht führt Beispiele an, in denen mindestens 85 brasilianische Mädchen berichteten, dass Mitschüler KI-Tools verwendet haben, um gefälschte pornografische Videos von ihnen zu erstellen und im Internet zu verbreiten, was ihnen nachhaltigen psychischen Schaden zufügte. HRW fordert die Regierung auf, umgehend Maßnahmen zu ergreifen, um den Missbrauch von Kinderdaten durch KI-Systeme zu verhindern.
Die LAION-Organisation hat bereits in Zusammenarbeit mit HRW und anderen Organisationen die Links zu den Kinderbildern aus den Trainingsdaten entfernt. Der Bericht warnt jedoch davor, dass dies die tatsächliche Menge an Kinderdaten im Datensatz „erheblich unterschätzen“ könnte.
Eine HRW-Forscherin erklärte, dass diese Familienfotos im Internet bisher einen gewissen Grad an „Privatsphäre“ genossen und nur schwer zu finden waren. Die massive Nutzung durch künstliche Intelligenz überschreite jedoch die bisherigen Grenzen des Datenschutzes. Sie kritisiert es als ungerecht, die Verantwortung für den Schutz der Privatsphäre von Kindern auf die Eltern abzuwälzen. Regierungen und Technologieunternehmen seien ebenfalls in der Pflicht, Schutzmaßnahmen zu entwickeln und umzusetzen.
Human Rights Watch fordert die brasilianische Regierung auf, im bevorstehenden Gesetz zum Schutz der Kinderrechte die unbefugte Verwendung personenbezogener Daten von Kindern zum Trainieren von KI-Systemen ausdrücklich zu verbieten und Rechtsmittel für betroffene Kinder zu schaffen. Es wird auch die Meinung vertreten, dass alle Länder weltweit den Kinderschutz im Bereich der Datenverarbeitung gesetzlich verschärfen sollten, um den Missbrauch in KI-Systemen oder die Erstellung unangemessener Inhalte zu verhindern.