Auf der 12. Konferenz für digitale und Technologiefinanzierung, einer Veranstaltung der Zhongguancun-Forum-Reihe, wurde kürzlich Ant Group's Deepfake-Erkennungssystem als „innovatives Finanztechnologie-Anwendungsbeispiel“ ausgezeichnet.
Ant Group hat, basierend auf seinem Tianji-Labor, erstmalig einen umfangreichen, hochwertigen und multimodalen Deepfake-Datensatz erstellt. Dieser umfasst über eine Million synthetischer Multimedia-Inhalte und simuliert realitätsnah Deepfake-Angriffe im Finanzbereich. Er dient als wichtiger Standard zur Bewertung der Leistung bestehender Deepfake-Erkennungsmodelle im Finanzsektor. In Finanzanwendungen erreichte die Deepfake-Erkennungsgenauigkeit von Ant Group auf mehreren Testdatensätzen über 98% und verhinderte erfolgreich mehrere Deepfake-basierte Betrugsversuche, wodurch das Vermögen der Nutzer geschützt wurde.
Dieser Datensatz löst das bisherige Problem, dass Deepfake-Erkennungsmodelle im Finanzbereich nicht im großen Maßstab trainiert und in realen Umgebungen getestet werden konnten. Durch die multimodale Analyse fördert er zudem die Entwicklung traditioneller Erkennungsmodelle. Der Datensatz ist mittlerweile ein Kernbestandteil des Deepfake-Erkennungsprodukts ZOLOZ Deeper von Ant Group, das auch externen Kunden zur Verfügung steht.
Ant Group nutzte fortschrittliche Technologien und generierte mit bis zu 81 verschiedenen Deepfake-Verfahren hochwertige synthetische Bilder. Diese decken verschiedene Fälschungsmethoden, komplexe Lichtverhältnisse, Hintergrundumgebungen und Gesichtsausdrücke ab, um realitätsnahe Angriffe zu simulieren. Neben statischen Bildern wurden auch zahlreiche Videos mit Audiodaten erstellt, die über 100 Fälschungsmethoden, verschiedene Sprachen, Akzente und Hintergrundgeräusche umfassen und so die Vielfalt und Komplexität des Datensatzes gewährleisten.
In der Datenvorbereitung und -annotationsphase reinigte und verarbeitete Ant Group die gesammelten Daten, um die Datenqualität sicherzustellen. Ein Expertenteam annotierte die Daten und kennzeichnete jedes Bild oder Video eindeutig als Deepfake oder nicht, wobei gleichzeitig minimale Fälschungsspuren erhalten blieben, um einen hohen Realitätsgrad zu erreichen. Ant Group hatte zuvor eine KI-basierte Plattform für die Datenerstellung und -synthese veröffentlicht, die im Bereich der Datenannotation eine „KI-gesteuerte“ Annotation ermöglicht und den Bedarf an manueller Annotation um über 70% reduziert hat.
Zusätzlich initiierte Ant Group auf der Bund-Konferenz 2024 einen Deepfake-Wettbewerb, bei dem der Deepfake-Datensatz als Grundlage für Training und Test diente. Über 2200 Teilnehmer aus 26 Ländern und Regionen nahmen teil. Durch die von den Teilnehmern eingereichten Algorithmen konnten die Angriffsqualität und die Schwierigkeit der Deepfake-Erkennung effektiv validiert und bewertet werden.
Mit dem Fortschritt der KI-Technologie entwickelt sich auch die Deepfake-Technologie rasant weiter. Diese Technologie nutzt Deep-Learning-Algorithmen, um Gesichter in Videos realistisch auszutauschen. Obwohl Deepfakes positive Anwendungen in Unterhaltung und Medien haben, stellen sie im Finanzbereich, insbesondere bei der Identitäts- und Transaktionsverifizierung, ein neues Risiko dar. Die Identifizierungssysteme von Finanzinstituten basieren oft auf biometrischen Verfahren wie der Gesichtserkennung. Werden diese Systeme durch Deepfakes getäuscht, kann dies zu schwerwiegenden Finanzbetrug führen.
Daher ist die Entwicklung von Deepfake-Erkennungssystemen im Finanzbereich unerlässlich. Robuste Deepfake-Erkennungsmodelle benötigen jedoch hochwertige, realitätsnahe Deepfake-Datensätze. Die Erstellung solcher Datensätze und die Validierung ihrer Effektivität sind daher dringende Aufgaben.