Recientemente, OpenAI anunció el lanzamiento de un documento de especificaciones de modelo significativamente ampliado, que define claramente los estándares de comportamiento de los modelos de IA. Las nuevas especificaciones, que pasaron de aproximadamente 10 páginas a 63, abarcan cómo la IA maneja temas controvertidos y los aspectos de personalización del usuario. El objetivo de OpenAI es permitir que los usuarios y los modelos de IA "busquen conjuntamente la verdad".
Nota de la fuente: Imagen generada por IA, proveída por Midjourney.
Las especificaciones destacan tres principios principales: personalización, transparencia y lo que OpenAI denomina "libertad de conocimiento". La libertad de conocimiento implica que los usuarios pueden explorar y debatir diversas perspectivas e ideas sin restricciones innecesarias. Esta actualización llega en un momento en que el CEO de OpenAI, Sam Altman, anunció el próximo lanzamiento de su importante modelo GPT-4.5 (con nombre en código "Orión").
Durante la elaboración de las nuevas especificaciones, el equipo de OpenAI también tuvo en cuenta los debates y controversias éticas sobre IA del último año. Por ejemplo, el debate sobre el "dilema del tranvía" generó un gran interés. En marzo del año pasado, Elon Musk criticó en las redes sociales al chatbot de IA de Google porque respondió que "no se debería" mentir deliberadamente sobre la identidad de la famosa atleta transgénero Caitlyn Jenner en caso de una catástrofe nuclear, cuando se le preguntó al respecto.
OpenAI afirma que espera encontrar una manera responsable de abordar problemas similares en las nuevas especificaciones. Por lo tanto, si un usuario hace la misma pregunta en ChatGPT ahora, responderá que, para evitar la pérdida masiva de vidas, se debería mentir sobre la identidad de alguien.
Joanne Jang, miembro del equipo de comportamiento de modelos de OpenAI, declaró en una entrevista: "No podemos crear un estándar de comportamiento de modelo que satisfaga a todos". Esto indica que OpenAI está trabajando para encontrar un punto de equilibrio al abordar cuestiones éticas complejas, manteniendo la utilidad del modelo y respetando las diversas perspectivas sociales.
Puntos clave:
🌍 OpenAI lanza nuevas especificaciones de modelo de 63 páginas que definen los estándares de comportamiento de la IA.
🔧 Las nuevas especificaciones enfatizan la personalización, la transparencia y la libertad de conocimiento, permitiendo a los usuarios explorar libremente las perspectivas.
🤖 ChatGPT podrá manejar mejor los temas controvertidos y responder a las complejas cuestiones éticas de los usuarios.