El informe de progreso tecnológico 2024 de Doubao, el modelo de lenguaje grande de ByteDance, publicado hoy, revela que su última versión, Doubao-pro-1215, ha alcanzado un rendimiento integral comparable al de GPT-4, e incluso supera a este último en algunos campos profesionales. Este avance marca la entrada oficial de la tecnología de modelos de lenguaje grandes de China en la primera liga mundial.
Desde su debut en mayo de este año, Doubao ha mejorado su capacidad en un 32% en tan solo 7 meses. Según la información oficial, mediante la optimización del procesamiento de grandes cantidades de datos y una arquitectura de modelo innovadora, incluyendo el aumento de la escasez del modelo y la introducción de técnicas de aprendizaje por refuerzo, Doubao ha logrado un progreso significativo en la precisión de la comprensión y la calidad de la generación. En particular, en escenarios complejos como las matemáticas y el conocimiento especializado, su rendimiento incluso supera al de GPT-4, con un precio de servicio que es solo una octava parte del de este último.
Cabe destacar que Doubao ha revelado por primera vez su capacidad de procesamiento de texto ultralargo de 3 millones de caracteres, lo que significa que puede manejar simultáneamente un volumen de contenido equivalente a "cientos" de informes académicos. Mediante el uso de algoritmos de datos de correlación contextual como STRING, y soluciones optimizadas de dispersión y distribución, Doubao controla el retraso en el procesamiento de millones de tokens en menos de 15 segundos, mejorando significativamente la eficiencia del procesamiento del modelo para el conocimiento externo masivo.
Este avance tecnológico no solo demuestra el rápido desarrollo de la tecnología de IA china, sino que también presagia una posible aceleración en la popularización de las aplicaciones de modelos de lenguaje grandes debido a una mejor relación calidad-precio.
