En un mundo donde los agentes de IA inundan la red, distinguir entre lo real y lo falso se ha convertido en un desafío. Recientemente, un informante de IA llamado @iruletheworldmo causó un gran revuelo en internet, engañando a la red bajo el alias de "Strawberry Bro" ("Hermano Fresa"), hasta que fue desenmascarado por el fundador de la empresa emergente de IA MultiOn.
Este incidente ha suscitado una profunda reflexión sobre cómo demostrar nuestra identidad en el mundo digital. Para abordar este problema, académicos de 25 instituciones, incluyendo OpenAI, Microsoft, MIT y UCB, han propuesto una nueva tecnología llamada "Credenciales de Personalidad" (Personhood Credentials, PHC). Esta tecnología permite demostrar que un usuario es humano y no una IA sin revelar ninguna información personal.
¿Qué son las "Credenciales de Personalidad"?
Las "Credenciales de Personalidad" son credenciales digitales que combinan la verificación del mundo real con tecnología de encriptación segura. Permiten a los usuarios demostrar a los servicios online que son humanos y no IA, sin necesidad de revelar información personal.
Principios tecnológicos
La implementación de las "Credenciales de Personalidad" se basa en dos elementos clave: la verificación del mundo real y la tecnología de encriptación. Independientemente del avance de la IA, estos dos puntos son imposibles de falsificar. Los usuarios necesitan interactuar con instituciones de confianza, como el gobierno, para obtener las credenciales a través de la participación offline, y utilizar pruebas de conocimiento cero para verificar su identidad sin revelar información personal.
Esta tecnología tiene un amplio potencial de aplicación, pudiendo utilizarse para filtrar contenido online, determinar el nivel de confianza de la información recibida, e incluso garantizar que la otra parte en una compra online o negociación sea un ser humano.
Sin embargo, la implementación de las "Credenciales de Personalidad" también presenta desafíos, incluyendo el acceso equitativo, la libertad de expresión, el control de poder, y la robustez frente a ataques y errores. Para garantizar que esta tecnología se aplique de forma justa y segura en la vida real, se requiere un esfuerzo conjunto de gobiernos, legisladores, líderes e investigadores para explorar diferentes vías de implementación y establecer políticas y normas adecuadas.
Referencias: https://x.com/sjgadler/status/1824245211322568903
