Mit der Kommerzialisierung generativer KI hat die Menge an gefälschten Inhalten im Internet drastisch zugenommen. Daten der Identifizierungsplattform Sumsub zeigen, dass die Zahl der Deepfakes von 2023 bis 2024 weltweit um das Vierfache gestiegen ist. Im Jahr 2024 machten Deepfakes 7 % aller Betrugsfälle aus und reichten von Identitätsdiebstahl und Kontoübernahmen bis hin zu komplexen Social-Engineering-Aktivitäten.
Um diesem Problem zu begegnen, hat Meta ein neues Tool namens Meta Video Seal veröffentlicht. Es soll Deepfakes bekämpfen, indem es unmerkliche Wasserzeichen in KI-generierte Videos einfügt. Das Tool wurde am Donnerstag Open Source veröffentlicht, um die Integration in bestehende Software zu erleichtern und die zuvor von Meta veröffentlichten Tools Watermark Anything und Audio Seal zu ergänzen.
Pierre Fernandez, KI-Forschungswissenschaftler bei Meta, sagte in einem Interview: „Wir haben Video Seal entwickelt, um eine effizientere Lösung für die Wasserzeichen von Videos zu bieten, insbesondere zur Erkennung von KI-generierten Videos und zum Schutz der Originalität.“
Obwohl Video Seal nicht die erste Video-Wasserzeichen-Technologie ist – SynthID von DeepMind und die Wasserzeichenmethode von Microsoft sind ebenfalls auf dem Markt – weist Fernandez auf einige Mängel bestehender Wasserzeichen-Tools hin. Er sagte: „Andere Wasserzeichen-Tools funktionieren nach der Videokompression schlecht, was bei der Verbreitung von Inhalten auf Social-Media-Plattformen sehr häufig vorkommt. Einige Methoden sind auch weniger effizient, nicht Open Source oder nicht reproduzierbar. Viele Methoden stammen aus der Bildwasserzeichen-Technologie, die aber nicht für Videos geeignet ist.“
Neben der Wasserzeichenfunktion kann Video Seal auch versteckte Informationen in Videos einbetten, die später zur Rückverfolgung der Videoquelle verwendet werden können. Meta behauptet, dass Video Seal gängigen Bearbeitungsmethoden wie Unschärfe und Zuschneiden sowie gängigen Komprimierungsalgorithmen effektiv widersteht.
Fernandez räumt jedoch ein, dass Video Seal Einschränkungen hat, insbesondere beim Ausgleich zwischen der Wahrnehmbarkeit und der Fälschungssicherheit des Wasserzeichens. Er weist darauf hin, dass übermäßige Komprimierung und umfangreiche Bearbeitung das Wasserzeichen zerstören oder dessen Wiederherstellung verhindern können.
Eine größere Herausforderung für Meta ist der Mangel an Anreizen für Entwickler und Branchenexperten, Video Seal zu verwenden, insbesondere für diejenigen, die bereits proprietäre Lösungen einsetzen. Daher hat Meta eine öffentliche Rangliste namens Meta Omni Seal Bench eingeführt, um die Leistung verschiedener Wasserzeichen-Technologien zu vergleichen, und wird auf der wichtigsten KI-Konferenz ICLR in diesem Jahr ein Seminar zum Thema Wasserzeichen-Technologien veranstalten.
Fernandez sagte: „Wir hoffen, dass immer mehr KI-Forscher und -Entwickler irgendeine Form von Wasserzeichen-Technologie in ihre Arbeit integrieren und mit der Industrie und der Wissenschaft zusammenarbeiten, um die Entwicklung dieses Bereichs zu beschleunigen.“