OpenAIs kürzlich vorgestelltes Bildgenerierungsmodell 4o zeigt erstaunliche Fähigkeiten bei der Generierung von Bildern mit Text, insbesondere bei der Erstellung gefälschter Dokumente, und ist für einige Nutzer zum „Liebling“ geworden. Gefälschte Belege, falsche Rezepte und gefälschte Pässe häufen sich und bereiten Sorgen.
In den sozialen Medien veröffentlichte der Investor von Menlo Ventures, Deedy Das, ein Foto eines gefälschten Belegs, der eine luxuriöse Restaurantrechnung in einem bekannten Steakhouse in San Francisco zeigt. Das schrieb in seinem Tweet: „Man kann mit 4o gefälschte Belege erstellen.“ Dieser Satz erregte große Aufmerksamkeit, da viele Prozesse zur Echtheitsprüfung im realen Leben auf „echten Bildern“ als Nachweis beruhen, und dies hat sich nun geändert.
Der gefälschte Beleg sieht auf den ersten Blick sehr echt aus und enthält eine detaillierte Liste der mehrgängigen Gerichte, korrekte Zwischensummen und Trinkgeldabrechnung. Nutzer bearbeiten die mit dem Modell generierten Bilder sogar weiter und fügen realistische Filter und Essensflecken hinzu – ein perfektes Werkzeug für Betrug.
Mit der Weiterentwicklung der Technologie hat sich die Bildgenerierungsfähigkeit von OpenAI deutlich verbessert. Frühere Modelle produzierten bei der Wiedergabe von Buchstaben oft fehlerhafte Zeichen und lustige Phrasen, aber 4o behebt diese Probleme fast vollständig. Nutzer können nicht nur gefälschte Belege für luxuriöse Abendessen erstellen, sondern auch gefälschte Rezepte für kontrollierte Medikamente wie Zoloft.
Dieses Phänomen hat breite Besorgnis über die Erstellung gefälschter Dokumente mit KI ausgelöst. Die Fähigkeit, gefälschte Dokumente zu erstellen, erleichtert eine Reihe von Straftaten, darunter die Fälschung von Steuerunterlagen, Bankschecks, Ausweisen und Geburtsurkunden. Angesichts dieses Trends ist die Frage, ob die bestehenden Methoden zur Dokumentenprüfung wirksam sind, noch offen. Obwohl einige KI-Unternehmen versuchen, zusätzliche Metadaten oder Wasserzeichen zu verwenden, um generierte Bilder zu identifizieren, scheinen diese Schutzmaßnahmen Betrug nicht vollständig zu verhindern.
Eine Umfrage aus dem Jahr 2015 ergab, dass 85 % der Befragten zugegeben haben, schon einmal wegen höherer Erstattungsbeträge gelogen zu haben. Diese Betrugsfälle bleiben oft aufgrund mangelnder interner Kontrollen und fehlerhafter Prozesse im Bereich der Forderungen unbemerkt. Mit anderen Worten: In unserer Zeit kann man fast nichts mehr glauben, was man online sieht.
Wichtigste Punkte:
📄 OpenAIs neues Bildgenerierungsmodell 4o kann problemlos gefälschte Belege und Rezepte erstellen, was Anlass zur Sorge gibt.
💻 Frühere Bildgenerierungsmodelle hatten Schwierigkeiten, Text zu generieren, aber die Fähigkeiten von 4o haben sich deutlich verbessert.
🛡️ Die Möglichkeit, gefälschte Dokumente zu erstellen, wirft Fragen nach der Wirksamkeit bestehender Prüfmethoden auf.
