El gobierno británico ha anunciado recientemente el cambio de nombre del "Instituto de Seguridad de la IA" a "Centro de Investigación de Seguridad de la IA". Este cambio marca un giro significativo en la estrategia del gobierno en el campo de la IA. El nuevo nombre no solo refleja el cambio en las funciones de la institución, sino que también demuestra la firme determinación del gobierno británico en impulsar el desarrollo de la industria de la IA.
Nota de la fuente de la imagen: Imagen generada por IA, proveedor de servicios de licencias de imágenes Midjourney
Este cambio, anunciado por el Departamento de Ciencia, Industria y Tecnología, implica que el nuevo Centro de Investigación de Seguridad de la IA se centrará en la ciberseguridad, con el objetivo de "mejorar la protección contra los riesgos para la seguridad nacional y el crimen relacionados con la IA". Anteriormente centrado en los riesgos existenciales y los sesgos de los grandes modelos lingüísticos, ahora dedicará más esfuerzos a aprovechar la tecnología de IA para prevenir riesgos de seguridad.
Simultáneamente, el gobierno británico ha anunciado la firma de un memorando de entendimiento con la empresa de inteligencia artificial Anthropic. Aunque no se han revelado los detalles específicos de los servicios, el memorando indica que ambas partes "explorarán" el uso del asistente de IA Claude de Anthropic para mejorar los servicios públicos. Anthropic participará en investigaciones científicas y modelos económicos, y proporcionará al Centro de Investigación de Seguridad de la IA herramientas para evaluar las capacidades de la IA y ayudar a identificar riesgos de seguridad.
Dario Amodei, cofundador y CEO de Anthropic, declaró: "La IA tiene el potencial de transformar la forma en que el gobierno presta servicios a la ciudadanía. Esperamos explorar cómo utilizar el asistente de IA Claude de Anthropic para ayudar al gobierno británico a mejorar la eficiencia de los servicios públicos, haciendo que la información y los servicios clave sean más accesibles y convenientes."
Cabe destacar que este cambio en el Centro de Investigación de Seguridad de la IA no es inesperado. El nuevo gobierno laborista británico, en su plan de desarrollo de IA publicado en enero, no mencionó términos como "seguridad", "peligros", "existencia" o "amenazas", lo que indica que el gobierno se centrará más en la inversión y el desarrollo tecnológico, especialmente en la colaboración con grandes empresas tecnológicas.
En el futuro, el gobierno espera mejorar la eficiencia del trabajo de los funcionarios públicos mediante el asistente de IA "Humphrey", y al mismo tiempo lanzar nuevas herramientas como monederos digitales y chatbots para que los ciudadanos puedan acceder a los servicios gubernamentales de forma más cómoda. Aunque los problemas de seguridad siguen existiendo, el gobierno parece considerar que el rápido ritmo de desarrollo no debe verse afectado por las preocupaciones de seguridad.
Ian Hogarth, presidente del Centro de Investigación de Seguridad de la IA, afirmó que, a pesar del cambio de nombre a "Centro de Investigación de Seguridad de la IA", la misión de la institución sigue siendo la misma: seguir comprometida con la evaluación de los riesgos graves a los que se enfrenta el público y profundizar la colaboración con la comunidad de seguridad nacional para proteger la seguridad de los ciudadanos.
Puntos clave:
🌐 El gobierno británico cambia el nombre del "Instituto de Seguridad de la IA" a "Centro de Investigación de Seguridad de la IA", centrándose en la ciberseguridad.
🤝 Firma un memorando de entendimiento con la empresa de inteligencia artificial Anthropic para explorar el uso de la IA en los servicios públicos.
📈 El gobierno prioriza el desarrollo de la IA, dejando de considerar la seguridad como la principal preocupación.
