Recientemente, con el rápido desarrollo de la inteligencia artificial, los investigadores han propuesto una idea intrigante: para verificar mejor si los usuarios en línea son humanos y no robots de IA, se debería comenzar a utilizar un sistema de "Credencial de Humanidad" (Personhood Credential, PHC) en lugar de las tradicionales verificaciones CAPTCHA. Este equipo de investigación, que incluye científicos de universidades de la Ivy League y empresas como OpenAI y Microsoft, presentó este concepto en un artículo que aún no ha sido revisado por pares.
Les preocupa que, con la proliferación de la IA, los actores malintencionados utilicen el poder de la IA para inundar la web con contenido no humano. La IA ahora puede generar contenido "similar al humano" e incluso puede hacerse pasar por humanos reales en línea, lo que hace que las verificaciones tradicionales como CAPTCHA sean cada vez más ineficaces. Por lo tanto, la idea del sistema PHC está ganando terreno. Los investigadores imaginan que los gobiernos u otras agencias de servicios digitales podrían emitir una credencial de identidad única para cada usuario, y los usuarios podrían verificar que son humanos mediante una técnica de cifrado llamada "prueba de conocimiento cero" sin revelar información específica.
La credencial se almacenaría digitalmente en el dispositivo personal del usuario, protegiendo así, hasta cierto punto, el anonimato del usuario en línea. Este sistema no solo podría reemplazar las CAPTCHA y las tecnologías biométricas existentes, sino que incluso podría mejorar la verificación humana. Sin embargo, los investigadores también reconocen que el sistema PHC no está exento de defectos. Por ejemplo, muchas personas podrían vender sus PHC a los remitentes de spam de IA, lo que podría exacerbar la proliferación de contenido basura en línea. Además, la centralización de la autoridad emisora de las credenciales también es motivo de preocupación, ya que podría llevar a una concentración excesiva de poder en pocas empresas.
Además, el sistema de credenciales podría representar un obstáculo para los usuarios menos familiarizados con internet, como las personas mayores. Por lo tanto, los investigadores recomiendan que los gobiernos consideren la posibilidad de probar la viabilidad del PHC mediante proyectos piloto. El problema es que el sistema PHC sin duda impondrá nuevas cargas digitales a los usuarios, y la raíz de estos problemas radica en las empresas tecnológicas. Los investigadores señalan que las empresas tecnológicas deben asumir la responsabilidad de resolver estos problemas, como agregar marcas de agua al contenido generado por IA o desarrollar tecnologías capaces de identificar el contenido generado por IA. Si bien estas medidas no son infalibles, al menos devuelven la responsabilidad al origen de la tecnología.
Puntos clave:
💡 Los investigadores proponen un sistema de "Credencial de Humanidad" para reemplazar las verificaciones CAPTCHA tradicionales y confirmar que los usuarios en línea son humanos.
🔒 El sistema PHC utiliza tecnología de cifrado para proteger la privacidad del usuario, pero puede provocar el mal uso de las credenciales y la concentración de poder.
⚠️ Las empresas tecnológicas deben asumir la responsabilidad de los problemas planteados por la IA, considerando medidas como el marcado de agua del contenido generado por IA.
