Recientemente, un grupo de senadores estadounidenses envió una importante carta a Sam Altman, CEO de OpenAI, solicitándole que revele información detallada sobre las medidas de seguridad y las condiciones laborales de la empresa antes del 13 de agosto de 2024. Esta solicitud se basa en informes de los medios que han puesto de manifiesto posibles riesgos de seguridad en OpenAI, incluyendo la renuncia de varios investigadores de seguridad de IA, vulnerabilidades de seguridad y preocupaciones de los empleados.
Nota de la fuente: Imagen generada por IA, proveída por Midjourney
La carta se deriva de las denuncias de exempleados que han criticado duramente las medidas de seguridad de OpenAI en el desarrollo de IA. Según los informes, el nuevo modelo de IA de OpenAI, GPT-4o, completó las pruebas de seguridad en solo una semana, una práctica que ha generado preocupación entre los expertos en seguridad. Se ha informado que este nuevo modelo puede generar contenido malicioso, como instrucciones para fabricar bombas, con simples indicaciones.
Los senadores destacan en la carta la necesidad de que el público confíe en que OpenAI mantiene la seguridad en el desarrollo de sus sistemas. Esto incluye la integridad de la gobernanza corporativa, la regulación de las pruebas de seguridad, la equidad en las prácticas de contratación, el cumplimiento de los compromisos públicos y la aplicación de las políticas de ciberseguridad. Señalan que los compromisos de seguridad previos de OpenAI con el gobierno de Biden deben cumplirse de manera efectiva.
En respuesta a la solicitud de los senadores, OpenAI ha publicado algunas declaraciones en las redes sociales, mencionando la reciente creación de un comité de seguridad y protección, los últimos avances en AGI de nivel cinco, un marco de preparación y las revisiones al contrato de empleados que ha sido objeto de críticas. OpenAI espera demostrar con estas medidas sus mejoras en materia de seguridad y gobernanza.
**Puntos clave:**
📧 **Senadores exigen detalles a OpenAI**: Senadores estadounidenses exigen al CEO de OpenAI que revele detalles sobre seguridad y condiciones laborales antes del 13 de agosto de 2024.
🔍 **Ex empleados denuncian riesgos de seguridad**: Ex empleados han revelado posibles riesgos de seguridad en el desarrollo de IA de OpenAI, incluyendo vulnerabilidades debido al lanzamiento apresurado de nuevos modelos.
🛡️ **OpenAI responde con medidas de mejora**: OpenAI ha respondido indicando que ha tomado medidas, incluyendo la creación de un nuevo comité y la revisión de los contratos de los empleados, para abordar las preocupaciones sobre seguridad y gobernanza.
