Gaithersburg, Maryland — Hoy, el Instituto de Seguridad de la Inteligencia Artificial de los Estados Unidos (IAIS), perteneciente al Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de los Estados Unidos, anunció la firma de memorandos de entendimiento con las empresas líderes en inteligencia artificial Anthropic y OpenAI, para iniciar formalmente una colaboración en la investigación, prueba y evaluación de la seguridad de la IA.
Según el acuerdo, el IAIS obtendrá acceso a los principales modelos nuevos de estas empresas antes y después de su lanzamiento, lo que le permitirá participar profundamente en la evaluación de las capacidades y los riesgos de seguridad de estos modelos, e investigar métodos para mitigar dichos riesgos. Este acuerdo establece un marco para la colaboración y representa un paso importante para los Estados Unidos en la gestión responsable del futuro de la inteligencia artificial.
Nota de la fuente: Imagen generada por IA, proveedor de servicios de licencia de imágenes Midjourney
“La seguridad es fundamental para impulsar la innovación tecnológica revolucionaria. Con estos acuerdos, esperamos colaborar con la tecnología de Anthropic y OpenAI para impulsar el desarrollo de la ciencia de la seguridad de la IA”, dijo Elizabeth Kelly, directora del IAIS. Estos acuerdos no solo marcan el comienzo de una colaboración, sino que también representan un hito importante para lograr el desarrollo y uso responsable de la IA.
Además, el IAIS planea colaborar estrechamente con socios del Reino Unido para proporcionar a Anthropic y OpenAI comentarios sobre las mejoras en la seguridad de los modelos. El NIST, basándose en sus cien años de logros en ciencia, tecnología, estándares y herramientas relacionadas, impulsará aún más la seguridad y fiabilidad de los sistemas de IA a través de esta colaboración.
Este trabajo de colaboración y evaluación ayudará a implementar la orden ejecutiva del gobierno Biden-Harris sobre la inteligencia artificial y fortalecerá el cumplimiento de los compromisos voluntarios del gobierno por parte de los principales desarrolladores de IA, promoviendo el desarrollo y uso seguro, fiable y confiable de la IA.
