In Zeiten der zunehmenden Verbreitung von KI-Bildbearbeitungstechnologien kündigt Google an, ab nächster Woche eine neue Kennzeichnung für KI-Bearbeitungen in der Google Fotos App einzuführen. Alle Fotos, die mit KI-Funktionen wie Magic Editor, Magic Eraser und Zoom Enhance bearbeitet wurden, werden im unteren Bereich des Abschnitts „Details“ der App mit dem Hinweis „Mit Google KI bearbeitet“ versehen.
Dieses Update erfolgt etwas mehr als zwei Monate nach der Veröffentlichung des Pixel 9 Telefons von Google, das über zahlreiche KI-gestützte Fotobearbeitungsfunktionen verfügt. Die Kennzeichnungsmethode hat jedoch einige Kontroversen ausgelöst. Obwohl Google dies als Schritt zur „Verbesserung der Transparenz“ bezeichnet, ist die tatsächliche Wirkung fragwürdig: Das Foto selbst erhält kein sichtbares Wasserzeichen. Das bedeutet, dass Nutzer in sozialen Medien, in der Instant Messaging oder beim normalen Betrachten von Fotos nicht sofort erkennen können, ob diese mit KI bearbeitet wurden.
Auch für Fotobearbeitungsfunktionen wie Best Take und Add Me, die keine generative KI verwenden, werden in Google Fotos zwar Metadaten zur Bearbeitung hinzugefügt, diese werden jedoch nicht im Detail-Bereich angezeigt. Diese Funktionen dienen hauptsächlich der Zusammenführung mehrerer Fotos zu einem vollständigen Bild.
Michael Marconi, Kommunikationsmanager bei Google Fotos, sagte in einem Interview mit TechCrunch: „Die Arbeit ist noch nicht abgeschlossen. Wir werden weiterhin Feedback sammeln, Sicherheitsmaßnahmen verbessern und weitere Lösungen evaluieren, um die Transparenz bei der Bearbeitung mit generativer KI zu erhöhen.“ Ob zukünftig sichtbare Wasserzeichen hinzugefügt werden, wurde zwar nicht explizit bestätigt, aber auch nicht ausgeschlossen.
Es ist erwähnenswert, dass alle mit Google KI bearbeiteten Fotos bereits jetzt Metadaten zur KI-Bearbeitung enthalten. Die neue Funktion verschiebt diese Information lediglich an eine leichter zugängliche Stelle im Detail-Bereich. Die Wirksamkeit dieser Maßnahme ist jedoch bedenklich, da die meisten Nutzer beim Betrachten von Bildern im Internet nicht explizit die Metadaten oder Details überprüfen.
Natürlich sind sichtbare Wasserzeichen im Foto selbst auch keine perfekte Lösung. Diese lassen sich leicht beschneiden oder entfernen, das Problem bleibt bestehen. Mit der Verbreitung von Google KI-Bildbearbeitungswerkzeugen könnte die Menge an synthetischen Inhalten im Internet stark zunehmen, was es für Nutzer immer schwieriger macht, zwischen realen und gefälschten Inhalten zu unterscheiden.
Googles derzeitige Methode der Metadaten-Wasserzeichen hängt stark von der Bereitschaft der verschiedenen Plattformen ab, KI-generierte Inhalte für die Nutzer zu kennzeichnen. Meta hat dies bereits auf Facebook und Instagram umgesetzt, und Google plant, dies später in diesem Jahr auch in den Suchergebnissen zu tun. Bei anderen Plattformen schreitet die Umsetzung jedoch langsamer voran.
Diese Kontroverse verdeutlicht ein wichtiges Thema in der Entwicklung von KI-Technologien: Wie lässt sich technologische Innovation mit der Gewährleistung der Authentizität von Inhalten und dem Recht der Nutzer auf Information vereinbaren? Obwohl Google einen ersten Schritt zur Verbesserung der Transparenz unternommen hat, ist offensichtlich noch mehr Aufwand und Verbesserung nötig, um die Irreführung von Nutzern durch synthetische Inhalte zu verhindern.