Kürzlich gab es bei OpenAI interne Diskussionen über die Wasserzeichen-Technologie. Laut dem Wall Street Journal hat das Unternehmen bereits eine Technologie entwickelt, um von ChatGPT generierte Texte zu kennzeichnen, und arbeitet an einem Erkennungstool. Ob diese Technologie jedoch auf den Markt gebracht wird, ist intern umstritten.
Aus einer bestimmten Perspektive erscheint die Einführung der Wasserzeichen-Technologie als verantwortungsvoller Schritt. Diese Technologie kann durch Anpassung der vom Modell vorhergesagten Wörter und Phrasen ein nachweisbares Muster erzeugen. Obwohl das etwas kompliziert klingt, ist der Zweck klar: Lehrkräften soll das Abschreiben von AI-generierten Hausaufgaben durch Schüler verhindert werden. Dem Bericht zufolge beeinträchtigt dieses Wasserzeichen die Textqualität des Chatbots nicht. Darüber hinaus ergab eine OpenAI-Umfrage, dass weltweit viermal so viele Menschen ein KI-Erkennungstool befürworten wie ablehnen.
Die Implementierung der Wasserzeichen-Technologie ist jedoch nicht ganz einfach. OpenAI bestätigte in einem Blog-Update die Entwicklung der Wasserzeichen-Technologie und gab an, dass diese Methode sehr genau sei und eine „99,9%ige Effektivität“ aufweise. Das Wasserzeichen ist auch relativ resistent gegen „Verfälschungen“, wie z. B. einfache Umschreibungen. OpenAI räumt jedoch ein, dass die Verwendung anderer Modelle zum Umschreiben das Wasserzeichen leicht umgehen kann, was Bedenken hervorruft.
Darüber hinaus befürchtet OpenAI, dass Wasserzeichen einige Benutzer stigmatisieren könnten, insbesondere Nicht-Muttersprachler. Obwohl einige Mitarbeiter die Wasserzeichen für effektiv halten, zeigt eine Umfrage, dass fast 30 % der ChatGPT-Nutzer angeben, die Nutzung zu reduzieren, wenn Wasserzeichen implementiert werden. Daher schlagen einige Mitarbeiter vor, „weniger kontroverse“ Methoden zu erforschen, obwohl deren Wirksamkeit noch nicht nachgewiesen ist.
Im heutigen Blog-Update erwähnt OpenAI, dass sie die Einbettung von Metadaten in einem „frühen Stadium“ untersuchen und dass es noch zu früh ist, um die Wirksamkeit zu beurteilen. Sie weisen jedoch darauf hin, dass diese Metadaten durch kryptografische Signatur geschützt sind und somit Fehlurteile vermieden werden können.
Wichtigste Punkte:
✅ Bei OpenAI gibt es interne Meinungsverschiedenheiten über die Einführung der Wasserzeichen-Technologie; die Veröffentlichung wird noch diskutiert.
📊 Umfragen zeigen, dass die Mehrheit weltweit KI-Erkennungstools befürwortet, aber Benutzer befürchten, dass Wasserzeichen die Nutzung beeinträchtigen.
🔒 OpenAI erwägt die Einbettung von Metadaten, um ein Gleichgewicht zwischen Technologie und Benutzererfahrung zu finden.