Mit der Verbreitung von Deepfakes nimmt die Menge an gefälschten Inhalten im Internet sprunghaft zu. Laut Sumsub, einer Plattform zur Identitätsprüfung, hat sich die Anzahl der Deepfakes von 2023 bis 2024 vervierfacht, wobei Deepfakes im Jahr 2024 7 % aller Betrugsfälle ausmachten. Dazu gehören verschiedene Formen wie Identitätsdiebstahl, Kontoübernahmen und komplexe Social-Engineering-Angriffe.
Um dieser Herausforderung zu begegnen, hat Meta kürzlich ein neues Wasserzeichen-Tool namens Meta Video Seal vorgestellt, mit dem nahezu unsichtbare Wasserzeichen zu KI-generierten Videoclips hinzugefügt werden können. Das Tool ist Open Source und so konzipiert, dass es sich nahtlos in bestehende Software integrieren lässt. Meta Video Seal ergänzt Metas bestehende Wasserzeichen-Tools wie Watermark Anything und Audio Seal.
Pierre Fernandes, AI-Forschungswissenschaftler bei Meta, erklärte in einem Interview mit TechCrunch: „Wir haben Video Seal entwickelt, um eine effektivere Lösung für Videowasserzeichen bereitzustellen, insbesondere zum Nachweis von KI-generierten Videos und zum Schutz der Originalität.“
Obwohl Video Seal nicht die erste Technologie dieser Art ist – DeepMind und Microsoft verfügen über ähnliche Videowasserzeichen-Technologien – sieht Fernandes bei einigen bestehenden Lösungen Mängel. Er merkte an: „Viele Wasserzeichen-Tools sind bei der Videokompression nicht robust genug, können nicht auf Social-Media-Plattformen eingesetzt werden und mangeln an Offenheit und Reproduzierbarkeit.“
Neben dem Wasserzeichen kann Video Seal auch versteckte Informationen in Videos einfügen, um die Quelle später zu identifizieren. Meta behauptet, dass das Tool gängigen Bearbeitungsvorgängen wie Unschärfe und Zuschneiden sowie gängigen Komprimierungsalgorithmen standhält. Fernandes räumt jedoch ein, dass bei Video Seal ein Kompromiss zwischen der Wahrnehmbarkeit des Wasserzeichens und der Robustheit gegen Manipulationen besteht. Übermäßige Komprimierung und starke Bearbeitung können das Wasserzeichen beeinträchtigen oder sogar unleserlich machen.
Eine größere Herausforderung für Video Seal besteht darin, dass die Akzeptanz durch Entwickler und die Branche möglicherweise gering ist, insbesondere bei Unternehmen, die bereits proprietäre Lösungen verwenden. Um dies zu lösen, plant Meta die Einführung einer öffentlichen Rangliste – Meta Omni Seal Bench – um die Leistung verschiedener Wasserzeichenmethoden zu vergleichen und wird auf der ICLR-Konferenz in diesem Jahr einen Workshop zum Thema Wasserzeichen veranstalten.
Fernandes hofft, dass immer mehr KI-Forscher und -Entwickler irgendeine Form von Wasserzeichen in ihre Arbeit integrieren und mit der Industrie und der Wissenschaft zusammenarbeiten werden, um die Entwicklung dieses Bereichs voranzutreiben.
Wichtigste Punkte:
🔍 Metas Meta Video Seal Tool fügt KI-generierten Videos Wasserzeichen hinzu, die gegen Bearbeitung und Komprimierung resistent sind.
📊 Das Tool ist Open Source, soll sich in bestehende Software integrieren lassen und soll die Entwicklung von Wasserzeichen-Technologien in der Branche vorantreiben.
🏆 Meta wird außerdem eine öffentliche Rangliste einführen, um verschiedene Wasserzeichenmethoden zu vergleichen und die Zusammenarbeit in der Branche zu fördern.