Eine kürzlich durchgeführte Studie von Forschern der Norwegischen Universität für Wissenschaft und Technologie sowie des Mizani- und Idiap-Instituts zeigt, dass GPT-4 über die Fähigkeit zur Gesichtserkennung, Geschlechtsbestimmung und Alterschätzung verfügt und dabei eine Genauigkeit erreicht, die mit spezialisierten Gesichtserkennungsalgorithmen vergleichbar ist. Bemerkenswert ist, dass GPT-4 nicht speziell für diese Aufgaben trainiert wurde.
Bildquelle: Das Bild wurde mit Midjourney, einem KI-Bildgenerator, erstellt.
In der Studie testeten die Forscher die biometrischen Fähigkeiten von GPT-4. Beim Geschlechtstest erreichte GPT-4 in einem Datensatz mit 5400 ausgeglichenen Bildern eine perfekte Genauigkeit von 100%, übertraf sogar das speziell dafür entwickelte DeepFace-Modell mit einer Genauigkeit von 99%. Ein beeindruckendes Ergebnis.
Auch bei der Alterschätzung zeigte GPT-4 zufriedenstellende Ergebnisse mit einer korrekten Altersbereichserkennung von 74,25%. Die Forscher stellten jedoch fest, dass GPT-4 bei der Alterschätzung von Personen über 60 Jahren tendenziell einen breiteren Altersbereich angibt, während die Schätzung bei jüngeren Personen genauer ist.
Die Studie deckte jedoch auch Sicherheitsrisiken auf. Die Forscher fanden heraus, dass sie die integrierten Schutzmechanismen von GPT-4 auf einfache Weise umgehen konnten, indem sie in der Eingabeaufforderung behaupteten, das Bild sei KI-generiert. GPT-4 begann daraufhin, echte Fotos zu analysieren. Diese Entdeckung wirft weitere Fragen zur Sicherheit großer Sprachmodelle auf.
Obwohl die Studie zeigt, dass GPT-4 bei biometrischen Aufgaben bemerkenswert gut abschneidet, warnen die Autoren davor, sich vollständig auf GPT-4 zur Identifizierung zu verlassen, da es gelegentlich überzeugende, aber falsche Beschreibungen liefert. Tatsächlich ist die biometrische Fähigkeit von GPT-4 nicht neu; OpenAI hatte dies bereits in der früheren „Be My Eyes“-Anwendung erwähnt, hatte die Gesichtserkennung aber aus Sicherheitsgründen deaktiviert.
Die neue Erkenntnis dieser Studie liegt darin, dass die Sicherheitsrichtlinien von GPT-4 mit einfachen Tricks umgangen werden können und seine Genauigkeit bei biometrischen Aufgaben verblüffend hoch ist.
Wichtigste Punkte:
🌟 GPT-4 erreichte im Geschlechtstest eine perfekte Genauigkeit von 100% und übertraf damit das DeepFace-Modell.
📊 Bei der Alterschätzung lag die Genauigkeit von GPT-4 bei 74,25%, die Schätzung älterer Personen ist jedoch möglicherweise ungenauer.
🔒 Die Studie zeigt, dass die Sicherheitsmechanismen von GPT-4 umgangen werden können. Die Sicherheit großer Sprachmodelle muss weiter erforscht werden.
