Kürzlich hat die stellvertretende Bezirksstaatsanwältin von San Francisco, Anwältin Yvonne Meré, eine Klage gegen 16 Websites eingereicht, die mithilfe von künstlicher Intelligenz Deepfake-Pornografie erstellen und die Fotos von Frauen und Mädchen ohne deren Zustimmung in Nacktbilder verwandeln. Diese beispiellose Klage zielt darauf ab, diesen schädlichen Trend, insbesondere unter Jugendlichen, zu bekämpfen, besonders bei jungen Männern, die „Entkleidung-Apps“ missbrauchen, um Bilder ihrer Mitschüler zu manipulieren.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Laut der New York Times wurden die 16 verklagten Websites in den ersten sechs Monaten des Jahres 200 Millionen Mal besucht. Die Unternehmen, die hinter diesen Websites stehen, befinden sich in Kalifornien, New Mexico, Großbritannien und Estland. Versuche der Journalisten, Vertreter der Websites zu kontaktieren, blieben entweder unbeantwortet oder es war niemand für ein Interview verfügbar. Einige Websites warben sogar mit Sätzen wie „Willst du sie nackt sehen?“, während andere die Nutzer direkt dazu aufforderten, über die Websites Nacktbilder von Frauen zu erhalten.
Bemerkenswert ist, dass diese Websites in der Regel kostenlose erste Bildbearbeitungen anbieten, die weitere Bearbeitung jedoch kostenpflichtig ist, wobei Kryptowährungen oder Kreditkarten als Zahlungsmittel akzeptiert werden. Die verwendete Deepfake-Technologie basiert auf KI-Modellen, die mit echten Pornografiebildern und Bildern von Kindesmissbrauch trainiert wurden, um realistisch aussehende Nacktbilder zu generieren. Der Bezirksstaatsanwalt von San Francisco, David Chiu, betonte, dass die Strafen für die Verantwortlichen minimal seien und es sei schwierig, die ursprünglichen Websites zu finden, sobald die Bilder verbreitet seien, was es für die Opfer schwieriger mache, rechtliche Schritte einzuleiten.
Sara Eisenberg, die eine juristische Einheit leitet, die sich mit wichtigen gesellschaftlichen Problemen befasst, weist darauf hin, dass die reine Aufklärung von Jugendlichen über den sicheren Umgang mit Technologie bei weitem nicht ausreicht. Jedes Foto könne ohne Erlaubnis bearbeitet werden, und traditionelle Schutzmaßnahmen seien wirkungslos. Eisenberg sagt: „Selbst wenn Kinder die Nutzung des Internets und der sozialen Medien beherrschen, kann das nicht verhindern, dass jemand diese Websites für äußerst schädliche Zwecke nutzt.“
Die Klage zielt nicht nur darauf ab, diese Websites zu schließen, sondern auch deren dauerhafte Herstellung von Deepfake-Pornografie zu untersagen und die Zahlung von Schadensersatz und Anwaltskosten zu fordern. Die Klage behauptet, dass die Websites gegen staatliche und lokale Gesetze gegen Rachepornos, Kinderpornografie und das kalifornische Gesetz gegen unlauteren Wettbewerb verstoßen, das illegale und unfaire Geschäftspraktiken verbietet.
Meré erklärte, dass sie sich nach dem Lesen eines Artikels in der New York Times über die Gefahren von Deepfake-Bildern sofort mit Eisenberg in Verbindung gesetzt und die Unterstützung von Chiu für die Klage gesucht habe. Chiu erwähnte, dass Deepfake-Nacktbilder, von Taylor Swift bis zu normalen Schülerinnen und Schülern, weit verbreitet seien und fast niemand dafür bestraft werde. Experten warnen davor, dass Deepfake-Pornografie schwerwiegende Auswirkungen auf die psychische Gesundheit, den Ruf, die Universität und die Karrierechancen der Opfer hat.
Obwohl Chiu zugibt, dass neue Websites wie „Whack-a-Mole“ immer wieder auftauchen könnten, hofft er, dass mit der Weiterentwicklung des Problems immer mehr neue Websites in die Klage aufgenommen werden können. Als Zentrum der KI-Industrie ist San Francisco der richtige Ort für diesen Rechtsstreit. Chiu weist darauf hin, dass die Beiträge der KI-Industrie positiv seien, aber die Entstehung von Deepfake-Pornografie eine „dunkle Seite“ sei, die angegangen werden müsse.
Wichtigste Punkte:
🌐 San Francisco verklagt 16 Deepfake-Pornografie-Websites zum Schutz der Privatsphäre und der Rechte von Frauen.
💰 Die Klage fordert die Schließung der Websites und die Zahlung von Schadensersatz und Anwaltskosten.
📉 Deepfake-Pornografie hat schwerwiegende Auswirkungen auf die psychische und soziale Gesundheit der Opfer, und die strafrechtliche Verfolgung ist schwierig.