Recientemente, el gobierno británico ha implementado una herramienta de inteligencia artificial llamada "Identificación y Priorización de Casos de Inmigración" (IPIC) para gestionar la inmigración. Su objetivo es mejorar la eficiencia de la aplicación de las leyes de inmigración, pudiendo recomendar la expulsión forzosa de inmigrantes, incluyendo adultos y niños. Sin embargo, grupos de derechos humanos han expresado una fuerte oposición, argumentando que esta medida podría aumentar la opresión contra los inmigrantes y que el proceso de toma de decisiones se vuelve demasiado dependiente de algoritmos.
Nota de la imagen: Imagen generada por IA, proveída por Midjourney.
Tras un año de solicitudes de información pública, se han revelado algunos detalles del sistema de IA. Estos documentos muestran que el sistema recopila información personal sobre los inmigrantes, incluyendo datos biométricos, raza, estado de salud y antecedentes penales. Aunque el gobierno afirma que la IA ayuda a procesar rápidamente los casos de inmigración y que cada recomendación es revisada por un humano, los críticos argumentan que esto podría llevar a los funcionarios a "simplificar" el proceso de toma de decisiones, especialmente al aceptar las recomendaciones del algoritmo sin necesidad de justificación, con solo un clic de confirmación.
La organización de derechos Privacy International expresa su preocupación, ya que considera que el sistema induce a los funcionarios a aceptar las sugerencias de la computadora en lugar de evaluar a fondo cada caso. Además, Fizza Qureshi, directora ejecutiva de la Red de Derechos de los Inmigrantes, señala que el aumento del intercambio de datos podría intensificar la vigilancia y la violación de la privacidad de los inmigrantes.
Esta herramienta se utiliza ampliamente desde 2019-2020, y el gobierno, ante las dudas públicas, se niega a revelar más detalles de su funcionamiento, argumentando que una transparencia excesiva podría utilizarse para eludir el control de la inmigración. Madeleine Sumption, directora del Observatorio de Inmigración de la Universidad de Oxford, opina que si bien el uso de la inteligencia artificial en sí no es incorrecto, sin transparencia es difícil evaluar su impacto real en la toma de decisiones.
Recientemente, el Parlamento británico ha propuesto una nueva ley de datos que permite la toma de decisiones automatizadas en la mayoría de los casos, siempre que los afectados puedan presentar una reclamación y obtener intervención humana. Este cambio ha generado preocupación sobre una mayor dependencia de algoritmos en las decisiones futuras sobre inmigración.
Puntos clave:
🌐 Esta herramienta de IA pretende mejorar la eficiencia en el procesamiento de casos de inmigración, pero enfrenta fuertes críticas.
🛑 Las organizaciones de derechos de los inmigrantes temen que la herramienta pueda llevar a los funcionarios a simplificar las decisiones y aumentar la vigilancia sobre los inmigrantes.
📜 La nueva ley de datos propuesta por el Parlamento británico permite la toma de decisiones automatizadas, generando preocupación pública sobre la transparencia en la gestión de la inmigración.
