Am 17. Januar 2025 veröffentlichte Tencent ein KI-generiertes Bildprüfwerkzeug, um Nutzern zu helfen, zu erkennen, ob Bilder von einer KI erstellt wurden.
Das von Tencents Hun Yuan Security Team, dem Zhuque-Labor, entwickelte KI-generierte Bilderkennungssystem kann durch Hochladen eines Bildes und kurzer Wartezeit innerhalb weniger Sekunden feststellen, ob ein Bild von einer KI generiert wurde. Das System unterscheidet hauptsächlich zwischen echten Bildern und KI-generierten Bildern, indem es deren Unterschiede erfasst. KI-generierte Bilder entsprechen beispielsweise manchmal nicht der Logik, wie z. B. ein fliegender Hund mit Flügeln oder eine Katze mit Zigarre, was der Realität widerspricht; KI-generierte Bilder benötigen ein "Wasserzeichen", d. h. eine explizite oder implizite Kennzeichnung, die entweder mit bloßem Auge sichtbar oder unauffällig sein kann und mit einem Erkennungstool gelesen werden muss; KI-generierte Bilder enthalten auch einige mit bloßem Auge unsichtbare verborgene Merkmale, z. B. erscheinen bei Anpassung des HSV-Farbraums bei KI-generierten Bildern lokal dichte Textur-Highlights.
Die Erkennung von KI-generierten Bildern sollte nicht nur auf einem einzigen Kriterium beruhen. Das Erkennungssystem muss mithilfe von KI-Modellen verschiedene Merkmalsunterschiede erfassen, darunter Textur, Semantik und verborgene Merkmale. Das Zhuque-Labor verwendete 1,4 Millionen positive und negative Beispiele für das Modelltraining, die verschiedene Szenarien generierter Inhalte abdecken. Die endgültige Testerkennungsrate beträgt über 95 % und wird kontinuierlich verbessert. Das Zhuque-Labor hat auch ein Text-Erkennungssystem entwickelt, das durch das Lernen aus einer riesigen Datenmenge die Texterkennung realisiert. Hierfür wurden ebenfalls zahlreiche positive und negative Beispiele für das Training gesammelt, und es wird eine Vergleichsmethode verwendet, um die Wahrscheinlichkeit der KI-Generierung eines Artikels abzuleiten, um die Erkennungsfähigkeit für unbekannte Daten zu verbessern. Derzeit umfasst dieses System eine Vielzahl von Textstilen, darunter Nachrichten, Amtsbriefe, Romane und Essays. Später sollen auch Gedichtformen ergänzt werden.
Das Zhuque-Labor entwickelte KI-Erkennungstools ursprünglich zur Optimierung der Trainingsdaten des Hun Yuan-Großmodells. Mit dem explosionsartigen Wachstum der KI hat sich jedoch der Bedarf in Wissenschaft und Wirtschaft an der „Erkennung von KI-generierten Inhalten durch KI“ erhöht. Daher entwickelte das Labor die beiden Tools zur Erkennung von KI-generierten Bildern und Texten und bietet einen Erprobungsdienst an.
Zukünftig soll ein Erkennungstool für KI-generierte Videos eingeführt werden, um die Erkennungsfähigkeit weiter zu verbessern.
Testversion:
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
