Vor dem Hintergrund der rasanten Entwicklung der künstlichen Intelligenz (KI) haben Forscher eine interessante Idee vorgeschlagen: Um Online-Nutzer besser als Menschen und nicht als KI-Roboter zu identifizieren, soll das herkömmliche CAPTCHA-Verfahren durch ein System von „Personhood Credentials“ (PHC) ersetzt werden. Dieses Forscherteam, bestehend aus Wissenschaftlern von Ivy-League-Universitäten und Unternehmen wie OpenAI und Microsoft, stellte dieses Konzept in einem noch nicht begutachteten Papier vor.
Die Forscher befürchten, dass böswillige Akteure die Möglichkeiten der KI nutzen werden, um das Internet mit nicht-menschlich erzeugten Inhalten zu fluten. KI kann heute „menschenähnliche“ Inhalte generieren und sich sogar als echte Menschen in Online-Aktivitäten ausgeben, wodurch herkömmliche Verfahren wie CAPTCHA immer wirkungsloser werden. Daher gewinnt die Idee des PHC-Systems an Bedeutung. Die Forscher stellen sich vor, dass Regierungen oder andere digitale Dienstleister jedem Nutzer eine eindeutige Identität ausstellen, die mittels „Zero-Knowledge-Proof“-Kryptographie verifiziert werden kann, ohne dass persönliche Daten preisgegeben werden müssen.
Die Credentials werden digital auf den Geräten der Nutzer gespeichert, um deren Online-Anonymität zumindest teilweise zu schützen. Dieses System könnte nicht nur CAPTCHA und biometrische Verfahren ersetzen, sondern auch die Effektivität der menschlichen Verifizierung verbessern. Die Forscher sind sich jedoch der Nachteile eines PHC-Systems bewusst. So könnten viele ihre PHCs an KI-Spammer verkaufen, was zu einer Zunahme von Spam-Inhalten führen könnte. Auch die Zentralisierung der Credentials-Ausstellungsstelle ist bedenklich und könnte zu einer zu starken Machtkonzentration bei wenigen Unternehmen führen.
Darüber hinaus könnte das Credentials-System für internetunerfahrene Nutzer, wie z. B. ältere Menschen, zu einer Hürde werden. Die Forscher empfehlen daher, die Machbarkeit von PHC durch Pilotprojekte zu testen. Das Problem ist jedoch, dass PHC-Systeme den Nutzern eine zusätzliche digitale Belastung auferlegen, wobei die Wurzel des Problems bei den Technologieunternehmen liegt. Die Forscher weisen darauf hin, dass Technologieunternehmen die Verantwortung für die Lösung des Problems übernehmen sollten, z. B. durch das Wasserzeichen versehen von KI-generierten Inhalten oder die Entwicklung von Technologien zur Erkennung von KI-generierten Inhalten. Diese Maßnahmen sind zwar nicht narrensicher, verlagern die Verantwortung aber zumindest zurück an die Quelle der Technologie.
Wichtigste Punkte:
💡 Forscher schlagen ein System von „Personhood Credentials“ (PHC) vor, um das herkömmliche CAPTCHA-Verfahren zur Verifizierung menschlicher Online-Nutzer zu ersetzen.
🔒 PHC-Systeme nutzen Kryptographie zum Schutz der Privatsphäre der Nutzer, bergen aber die Gefahr von Credential-Missbrauch und Machtkonzentration.
⚠️ Technologieunternehmen müssen die Verantwortung für die durch KI verursachten Probleme übernehmen und Maßnahmen wie das Wasserzeichen versehen von KI-generierten Inhalten in Betracht ziehen.
