Une récente étude menée par des chercheurs de l'Université norvégienne de science et de technologie, de Mizani et de l'Institut Idiap, révèle que GPT-4 possède des capacités de reconnaissance faciale, de détermination du sexe et d'estimation de l'âge, avec une précision comparable à celle des algorithmes de reconnaissance faciale spécialisés. Ce qui est surprenant, c'est que GPT-4 n'a pas été entraîné spécifiquement pour ces tâches.
Source : Image générée par IA, fournie par Midjourney
Dans cette étude, les chercheurs ont testé les fonctionnalités biométriques de GPT-4. Lors du test d'identification du sexe, GPT-4 a atteint une précision parfaite de 100 % sur un ensemble de données de 5400 images équilibrées, surpassant même le modèle DeepFace, conçu spécifiquement pour cette tâche, qui a atteint une précision de 99 %. Un résultat remarquable.
En matière d'estimation de l'âge, GPT-4 a également démontré des performances satisfaisantes, avec un taux de réussite de 74,25 %. Cependant, les chercheurs ont constaté que GPT-4 a tendance à fournir une fourchette d'âge plus large pour les personnes de plus de 60 ans, tandis que les estimations pour les jeunes sont plus précises.
L'étude a toutefois mis en lumière des failles de sécurité. Les chercheurs ont découvert qu'il était possible de contourner facilement les mécanismes de protection intégrés de GPT-4. Il suffit d'affirmer dans l'invite que l'image entrée est générée par IA pour que GPT-4 commence à analyser des photos réelles. Cette découverte soulève de nouvelles questions sur la sécurité des grands modèles linguistiques.
Bien que l'étude montre que GPT-4 excelle dans les tâches de biométrie, les auteurs mettent en garde contre une dépendance excessive à son système d'identification, car il peut parfois fournir des descriptions convaincantes mais incorrectes. En réalité, les capacités de biométrie de GPT-4 ne sont pas nouvelles ; OpenAI l'avait déjà signalé dans l'application « Be My Eyes », mais la fonction de reconnaissance faciale avait été désactivée par mesure de sécurité.
La nouveauté de cette étude réside dans la découverte qu'il est possible de contourner les consignes de sécurité de GPT-4 par des techniques simples, et dans la précision étonnante de ses performances en matière de biométrie.
Points clés :
🌟 GPT-4 a atteint une précision parfaite de 100 % dans le test d'identification du sexe, surpassant le modèle DeepFace.
📊 GPT-4 a atteint un taux de précision de 74,25 % dans l'estimation de l'âge, mais les estimations pour les personnes âgées peuvent être plus larges.
🔒 L'étude a révélé la possibilité de contourner les mécanismes de sécurité de GPT-4, soulignant la nécessité de renforcer la recherche sur la sécurité des grands modèles linguistiques.
