Recientemente, con Elon Musk demandando a Sam Altman, se han filtrado correos electrónicos internos de la etapa inicial de OpenAI, lo que ha generado una gran atención sobre la lucha de poder entre los fundadores de la empresa. En los correos electrónicos, Ilya Sutskever, cofundador de OpenAI, expresó su profunda preocupación por el fuerte deseo de control de Musk sobre la inteligencia artificial.
Nota de la fuente de la imagen: Imagen generada por IA, proveedor de servicios de autorización de imágenes Midjourney
En un correo electrónico de septiembre de 2017 a Musk y Altman, Sutskever señaló que el deseo de control de Musk podría representar una amenaza potencial para la futura inteligencia artificial a nivel humano (AGI). En el correo electrónico, enfatizó: "La estructura actual te proporciona una vía para tener, finalmente, el control absoluto y unilateral de la AGI". Aunque Musk había dicho que no deseaba controlar la AGI final, Sutskever creía que sus acciones demostraban una gran importancia al control absoluto.
Cabe destacar que este correo electrónico se envió menos de seis meses después de que Musk renunciara a su cargo en OpenAI debido a desacuerdos sobre la forma de financiación de la empresa. Sutskever expresó claramente su preocupación en el correo electrónico: "A medida que la empresa avance realmente en el desarrollo de la AGI, podrías optar por mantener el control absoluto de la empresa, incluso si esa no es tu intención actual".
En la segunda parte del correo electrónico, Sutskever señaló además que el objetivo de OpenAI es crear un futuro mejor y evitar una dictadura de la AGI. Mencionó la preocupación de Musk por la posibilidad de que Demis Hassabis, fundador de DeepMind de Google, creara una dictadura de la AGI, y consideró que esta preocupación era razonable. Por lo tanto, hizo un llamamiento para crear una estructura que evitara que Musk se convirtiera en un dictador, especialmente en un contexto en el que la tecnología pudiera hacer posible esta situación.
El contenido del correo electrónico es particularmente llamativo hoy en día, ya que revela que la cuestión del control es un tema complejo y delicado a la hora de crear una inteligencia artificial con inteligencia humana. Con el paso del tiempo, el propio Sutskever abandonó OpenAI y fundó una nueva empresa centrada en la seguridad de la inteligencia artificial, un cambio que añade aún más peso al contenido del correo electrónico.
Puntos clave:
🔍 Los correos electrónicos internos de la etapa inicial de OpenAI muestran la preocupación de los empleados por el deseo de control de Musk en el campo de la inteligencia artificial.
⚖️ Sutskever advirtió que el control absoluto de Musk sobre la AGI podría tener consecuencias graves.
💡 El objetivo de OpenAI es crear un futuro mejor y evitar una dictadura de la AGI.
