El modelo o3AI, recientemente lanzado por OpenAI, se considera su producto de inteligencia artificial más potente, pero su costo operativo es asombroso: más de 1000 dólares por tarea.
Según TechCrunch, este nuevo modelo utiliza una técnica llamada "cálculo en tiempo de prueba" al procesar problemas complejos, lo que significa que dedica más tiempo a pensar y explorar múltiples posibilidades antes de llegar a una respuesta. Por lo tanto, los ingenieros de OpenAI esperan que o3 genere respuestas de mayor calidad con indicaciones complejas.
Según François Chollet, creador del benchmark ARC-AGI, o3 obtuvo una puntuación del 87,5% en su potente "modo de alto cálculo", casi el triple de la puntuación del 32% del modelo o1 de la generación anterior. Esto demuestra una mejora significativa en el rendimiento de o3. Sin embargo, este sofisticado proceso de cálculo conlleva un enorme coste. Para lograr esta alta puntuación, el coste computacional de o3 superó los 1000 dólares por tarea, utilizando 170 veces más capacidad de cálculo que la versión de bajo consumo de o3, muy superior a su predecesor, cuyo coste por tarea era inferior a 4 dólares.
Esta situación ha generado preocupación en la industria sobre la contradicción entre el rendimiento del modelo o3 y su coste operativo. Por un lado, la considerable mejora de la puntuación de o3 parece demostrar que los modelos de inteligencia artificial todavía pueden avanzar mediante el "escalado", es decir, aumentando la capacidad de procesamiento y los datos de entrenamiento. Pero por otro lado, también aumentan las críticas sobre los rendimientos decrecientes del escalado. Aunque la mejora de o3 se debe principalmente a la mejora de su forma de "razonamiento" y no simplemente al escalado, su elevado coste operativo es sin duda motivo de preocupación.
Incluso la versión de bajo consumo de o3 obtuvo una puntuación del 76% en las pruebas de referencia, pero el coste por tarea ascendió a unos 20 dólares, una opción relativamente barata en comparación, pero todavía varias veces más cara que su predecesor. Además, teniendo en cuenta que ChatGPT Plus cuesta sólo 25 dólares al mes, OpenAI se enfrenta a una enorme presión de costes a la hora de mejorar el nivel de inteligencia utilizado por los usuarios.
En una entrada de blog sobre los resultados de las pruebas de referencia, Chollet señala que, aunque o3 se acerca al rendimiento humano, "el coste sigue siendo elevado y no es económicamente viable". Afirma que el coste de mano de obra para resolver las tareas ARC-AGI es de aproximadamente 5 dólares por tarea, mientras que el consumo de energía es de apenas unos pocos céntimos. Sin embargo, se muestra optimista y cree que "la rentabilidad podría mejorar significativamente en los próximos meses y años". Actualmente, o3 aún no se ha lanzado al público, y se espera que su "mini versión" se lance en enero del próximo año.
Puntos clave:
🌟 El coste de una sola consulta del modelo o3AI supera los 1000 dólares, lo que refleja su elevado coste operativo.
📊 En la prueba de referencia ARC-AGI, o3 obtuvo una puntuación del 87,5%, casi el triple que la generación anterior, o1.
🔍 Actualmente, o3 aún no se ha lanzado al público; se espera que su "mini versión" se lance en enero del próximo año.