Zoom bereitet sich darauf vor, Nutzern eine erstaunliche neue Funktion anzubieten, aber wir müssen uns möglicherweise bis zum nächsten Jahr gedulden, um sie zu sehen. Der Videokonferenz-Gigant gab auf seiner jährlichen Entwicklerkonferenz bekannt, dass er eine Funktion einführen wird, die Benutzervideos in realistische, KI-gesteuerte digitale Avatare umwandeln kann.
Dieser digitale Avatar umfasst nicht nur den Kopf, sondern auch Oberarme und Schultern – ein wahrer „digitaler Zwilling“. Benutzer müssen lediglich den gewünschten Text eingeben, und Zoom generiert ein Audio, das mit der Lippenbewegung des Avatars synchronisiert ist. Klingt fantastisch, nicht wahr?
Smita Hashim, Chief Product Officer von Zoom, erklärte, dass diese Funktion dazu dienen soll, Menschen zu helfen, „asynchron“ und „schneller und effizienter“ mit Kollegen zu kommunizieren. Sie betonte, dass dieser Avatar Nutzern wertvolle Zeit und Mühe sparen und gleichzeitig die Effizienz der Videoproduktion steigern kann.
Die Einführung dieser Technologie hat jedoch auch einige Bedenken aufgeworfen. Wir müssen uns fragen, ob dies nicht das Risiko von Deepfakes birgt?
Tatsächlich haben bereits mehrere Unternehmen ähnliche KI-Technologien entwickelt, die das Gesicht einer Person digital „klonen“ und mit einer recht natürlichen synthetischen Stimme versehen können. Tavus beispielsweise hilft Marken, virtuelle Charaktere für personalisierte Videoanzeigen zu erstellen, und Microsoft hat im vergangenen Jahr einen Dienst eingeführt, der überzeugende digitale Doubles generieren kann.
Diese Tools verfügen jedoch in der Regel über strenge Schutzmaßnahmen, um Missbrauch zu verhindern. Tavus verlangt eine mündliche Einverständniserklärung, während Microsoft von seinen Kunden schriftliche Genehmigungen und Einwilligungen aller beteiligten Personen verlangt.
Im Gegensatz dazu erscheint die Beschreibung der Sicherheitsmaßnahmen von Zoom etwas vage. Hashim sagte, das Unternehmen baue für die Funktion der benutzerdefinierten Avatare „mehrere Sicherheitsvorkehrungen“ auf, darunter „hochwertige Authentifizierung“ und Wasserzeichen. Sie versprach, die Sicherheitsmaßnahmen weiterhin zu überprüfen und bei Bedarf in Zukunft weitere hinzuzufügen.
Dieser Schritt von Zoom steht im Einklang mit der großen Vision von CEO Yuan Zheng. Er hofft, in Zukunft eine KI zu schaffen, die an Zoom-Meetings teilnehmen, E-Mails beantworten oder sogar Anrufe entgegennehmen kann.
Die Einführung dieser Technologie fällt jedoch mit der rasanten Verbreitung von Deepfakes in den sozialen Medien zusammen, was die Unterscheidung zwischen Wahrheit und Falschinformation immer schwieriger macht. In diesem Jahr haben Deepfake-Videos mit US-Präsident Biden, Taylor Swift und Vizepräsidentin Kamala Harris Millionen von Aufrufen und Weiterleitungen im Internet erhalten. Kürzlich, nach dem Hurrikan Helene, überschwemmten zahlreiche gefälschte KI-generierte Bilder das Netz und zeigten erfundene Zerstörungen und menschliches Leid.
Deepfake-Technologie wird auch gegen Einzelpersonen eingesetzt, beispielsweise um sich als Verwandte auszugeben und Betrug zu begehen. Nach Angaben der US-amerikanischen Federal Trade Commission beliefen sich die Verluste im Zusammenhang mit solchen Betrugsfällen im vergangenen Jahr auf über 1 Milliarde US-Dollar.
Wie Zoom also verhindern will, dass Betrüger sein Tool zur Erstellung böswilliger gefälschter Videos verwenden, ist derzeit unklar. Die vom Unternehmen gezeigten Beispielbilder zeigen ein sichtbares Wasserzeichen in der oberen rechten Ecke der Videos mit benutzerdefinierten Avataren. Dieses Wasserzeichen kann jedoch leicht mit Bildschirm-Aufnahmetools entfernt werden.
Wir erwarten, dass wir im ersten Halbjahr 2025, wenn Zoom die Funktion voraussichtlich veröffentlichen wird, mehr Details erfahren werden. Nutzer müssen dann monatlich 12 US-Dollar extra bezahlen, um benutzerdefinierte Avatare in Zoom Clips (dem asynchronen Video-Tool) verwenden zu können.
Unabhängig davon, welche Maßnahmen Zoom letztendlich ergreifen wird, sind Regulierungsbemühungen im Gange, um die Verbreitung von Deepfakes einzudämmen. Da es auf Bundesebene in den USA an Gesetzen mangelt, die Deepfakes als Straftat einstufen, haben bereits über zehn Bundesstaaten Vorschriften gegen KI-gestützte Identitätsbetrug erlassen. Ein kalifornisches Gesetz (derzeit ausgesetzt) wäre das erste, das Richtern die Befugnis einräumt, die Entfernung von Deepfake-Inhalten anzuordnen, andernfalls drohen Strafen.
Mit der Einführung dieser neuen Funktion durch Zoom müssen wir uns fragen: Führt der technische Fortschritt immer zu positiven Auswirkungen? Genießen wir die Bequemlichkeit, während wir unbeabsichtigt die Büchse der Pandora öffnen? Das sollte jeder von uns sorgfältig überdenken.