Mit der rasanten Entwicklung der künstlichen Intelligenz (KI) werden KI-generierte Texte, Bilder und Videos in verschiedenen Bereichen immer ausgereifter eingesetzt. Dies geht jedoch mit einer Vertrauenskrise einher, da die Verbreitung von Falschinformationen eine potenzielle Bedrohung für die Gesellschaft darstellt. Um dieser Herausforderung zu begegnen, hat Tencent kürzlich ein neues Werkzeug zur Erkennung von KI-generierten Inhalten vorgestellt, das darauf abzielt, KI mit KI zu „entlarven“.
Das von Tencents Zhuque-Labor entwickelte Tool besteht aus zwei Systemen: einem zur Erkennung von KI-generierten Texten und einem zur Erkennung von KI-generierten Bildern. Tencent betont, dass KI-generierte Bilder, obwohl sie immer realistischer aussehen, dennoch erkennbare Merkmale aufweisen. Durch eine schnelle Überprüfung des hochgeladenen Bildes innerhalb weniger Sekunden kann der Benutzer feststellen, ob es von einer KI generiert wurde.
Die Erkennungslogik basiert auf der Identifizierung subtiler Unterschiede zwischen echten und KI-generierten Bildern. So verstoßen KI-generierte Bilder manchmal gegen die Logik oder benötigen möglicherweise Wasserzeichen. Darüber hinaus können sie spezifische, versteckte Merkmale enthalten. Um die Genauigkeit der Erkennung zu gewährleisten, wurden bei der Modellschulung 1,4 Millionen positive und negative Beispiele verwendet, die verschiedene Szenarien wie Menschen, Landschaften, Personen und Wahrzeichen abdecken. Die endgültige Testerkennungsrate liegt über 95 %, wobei das System kontinuierlich optimiert wird.
Auch bei der Texterkennung stützt sich das Tencent-System auf eine große Anzahl von positiven und negativen Beispielen, um verschiedene Textsorten wie Nachrichten, Amtsdokumente, Romane und Essays abzudecken. Durch den Vergleich des zu überprüfenden Texts mit den Vorhersagen des großen Sprachmodells kann das System die Wahrscheinlichkeit abschätzen, dass der Text von einer KI generiert wurde, und so die Erkennungsfähigkeit für unbekannte Daten verbessern. Zukünftig plant Tencent, das Texterkennungssystem auf Gedichte und andere Textsorten auszuweiten, um die Erkennungsgenauigkeit weiter zu steigern.
Mit dieser innovativen Maßnahme möchte Tencent Nutzern ein sichereres und vertrauenswürdigeres Online-Umfeld bieten, die Verbreitung von Falschinformationen effektiv bekämpfen und zur positiven Entwicklung der Gesellschaft beitragen.
