Un estudio reciente realizado por investigadores de la Universidad Noruega de Ciencia y Tecnología, Mizani y el Instituto Idiap, ha revelado que GPT-4 posee la capacidad de reconocer rostros, determinar el sexo y estimar la edad con una precisión comparable a la de algoritmos de reconocimiento facial especializados. Lo sorprendente es que GPT-4 no recibió entrenamiento específico para estas tareas.
Nota de la fuente: Imagen generada por IA, proveída por Midjourney
En este estudio, los investigadores probaron las funciones biométricas de GPT-4. En la prueba de reconocimiento de género, GPT-4 logró una precisión del 100% en un conjunto de datos de 5400 imágenes balanceadas, superando incluso al modelo DeepFace, diseñado específicamente para esta tarea, que obtuvo una precisión del 99%. Un resultado realmente impresionante.
En cuanto a la estimación de edad, el rendimiento de GPT-4 también fue satisfactorio, con una probabilidad de identificación correcta del rango de edad del 74.25%. Sin embargo, los investigadores señalan que GPT-4 tiende a proporcionar rangos de edad más amplios para personas mayores de 60 años, mientras que las estimaciones para personas más jóvenes son relativamente precisas.
No obstante, el estudio también reveló algunos riesgos de seguridad. Los investigadores descubrieron que podían eludir fácilmente los mecanismos de protección integrados de GPT-4 simplemente afirmando en la solicitud que la imagen introducida era generada por IA, lo que hacía que GPT-4 comenzara a analizar fotografías reales. Este hallazgo plantea nuevas interrogantes sobre la seguridad de los grandes modelos lingüísticos.
Aunque el estudio muestra un rendimiento excepcional de GPT-4 en tareas de biometría, los autores advierten que no se debe confiar completamente en GPT-4 para la identificación, ya que a veces puede proporcionar descripciones convincentes pero incorrectas. En realidad, la capacidad de biometría de GPT-4 no es algo nuevo; OpenAI ya lo había señalado anteriormente en la aplicación "Be My Eyes", aunque la función de reconocimiento facial se deshabilitó por motivos de seguridad.
La novedad de este estudio radica en que las directrices de seguridad de GPT-4 pueden eludirse con trucos sencillos, y en la sorprendente precisión que demuestra en tareas de biometría.
Puntos clave:
🌟 GPT-4 alcanzó una precisión perfecta del 100% en la prueba de reconocimiento de género, superando al modelo DeepFace.
📊 En la estimación de edad, GPT-4 obtuvo una precisión del 74.25%, pero las estimaciones para personas mayores pueden ser más amplias.
🔒 El estudio descubrió que se pueden eludir los mecanismos de seguridad de GPT-4, lo que exige una mayor investigación sobre la seguridad de los grandes modelos lingüísticos.
