Recientemente, el Secretario de Tecnología del Reino Unido, Peter Kyle, admitió la falta de transparencia del gobierno en el uso de la inteligencia artificial (IA) y algoritmos, lo que genera inquietud pública sobre la aplicación de estas tecnologías.
Desde que el gobierno anunció la obligatoriedad del registro de sistemas de IA en todos los departamentos, ningún departamento de Whitehall ha completado dicho registro. Esto ha generado advertencias sobre la gestión "a ciegas" del sector público en la implementación de tecnologías algorítmicas que afectan a millones de vidas.
Nota de la imagen: Imagen generada por IA, proveedor de servicios de licencias Midjourney
Actualmente, el gobierno utiliza IA en varios ámbitos, incluyendo pagos de prestaciones sociales y aplicación de leyes de inmigración. Los registros muestran que las instituciones públicas han firmado decenas de contratos con varias empresas tecnológicas para servicios de IA y algoritmos. Por ejemplo, el Ministerio del Interior publicó recientemente un contrato de hasta 20 millones de libras esterlinas para software de reconocimiento facial, lo que generó preocupación por la "vigilancia biométrica a gran escala". Sin embargo, hasta la fecha, solo nueve sistemas algorítmicos están registrados en el registro público, sin incluir ningún programa de IA de los sistemas de prestaciones sociales, el Ministerio del Interior o la policía.
Los expertos advierten sobre los posibles peligros de la falta de pensamiento crítico en el uso de la IA. El número de sistemas algorítmicos registrados actualmente en instituciones como la Oficina del Gabinete, la ciudad de Cambridge y el NHS es extremadamente limitado. A pesar de ello, desde febrero de este año se han firmado 164 contratos relacionados con IA con instituciones públicas, lo que demuestra una fuerte demanda de esta tecnología.
Kyle afirmó que el público tiene derecho a conocer el uso que el gobierno hace de los algoritmos y se comprometió a mejorar la transparencia. La organización de defensa de la privacidad Big Brother Watch señala que la falta de transparencia del gobierno en el uso de la IA puede poner en peligro los derechos de datos del público. Recientemente, el Ada Lovelace Institute advirtió que, si bien los sistemas de IA pueden parecer reducir la carga administrativa, pueden perjudicar la confianza pública si sus resultados son discriminatorios o ineficaces.
Actualmente, solo tres algoritmos están registrados en el registro nacional: uno para identificar registros digitales, otro para analizar los pasos de peatones y otro para las valoraciones de los pacientes sobre los servicios del NHS. Empresas tecnológicas como Microsoft y Google Cloud están promoviendo activamente sus sistemas de IA, alegando que una implementación más amplia de la IA podría generar enormes ahorros para el sector público. Kyle también afirma que esta tecnología podría revolucionar los servicios gubernamentales.
La aplicación de la IA se está generalizando en los distintos departamentos gubernamentales. Por ejemplo, el Departamento de Trabajo y Pensiones está utilizando IA generativa para procesar grandes cantidades de documentos y detectar automáticamente fraudes y errores en las solicitudes de prestaciones. Mientras que el Ministerio del Interior ha implementado un sistema de aplicación de leyes de inmigración impulsado por IA, aunque el gobierno enfatiza que no se trata de un sistema típico de aprendizaje automático.
Puntos clave:
🔍 El gobierno del Reino Unido no ha registrado ningún sistema de IA, lo que genera preocupación pública por su transparencia.
💼 La tecnología de IA se utiliza ampliamente en los pagos de prestaciones sociales y la aplicación de leyes de inmigración, pero la documentación es muy escasa.
📈 Los expertos advierten sobre los posibles peligros de la IA y piden una mayor transparencia y regulación.
