En la presentación técnica de la serie OPPO Find X7 celebrada esta tarde, OPPO anunció su última actualización del gran modelo de lenguaje AndesGPT. Este modelo se integrará en los teléfonos de la serie OPPO Find X7, convirtiéndose en el soporte tecnológico más reciente del potente asistente inteligente Xiaobu.
AndesGPT se presenta en tres tamaños: 1800 mil millones de parámetros, 700 mil millones de parámetros y 70 mil millones de parámetros. Admite la implementación conjunta de extremo y nube para satisfacer las necesidades de los usuarios en diferentes escenarios. La serie OPPO Find X7 será la primera en incorporar el modelo AndesGPT de 70 mil millones de parámetros en el dispositivo, ofreciendo a los usuarios una experiencia más inteligente.
Gracias a sus potentes capacidades de conocimiento, memoria y herramientas, AndesGPT proporciona a Xiaobu una amplia gama de conocimientos y capacidades de servicio inteligente personalizadas. Además, mediante la tecnología SwappedAttention de creación propia, AndesGPT resuelve el problema de la demora en la inferencia de la primera palabra causada por la memoria a largo plazo, lo que mejora significativamente la velocidad de respuesta de Xiaobu. En el escenario de resumen de contenido de texto, la generación de la primera palabra de 200 palabras tarda solo 0,2 segundos, 20 veces más rápido que la competencia; la generación de la primera palabra de 2000 palabras tarda solo 2,9 segundos, 2,5 veces más rápido que la competencia; y el límite de palabras del resumen puede alcanzar las 14000 palabras, pudiendo procesar fácilmente un artículo científico común, superando la capacidad de los modelos de la competencia en 3,5 veces.
En comparación con los modelos de lenguaje de 1000 millones de parámetros, AndesGPT de 70 mil millones de parámetros ofrece una capacidad de comprensión superior. Por ejemplo, en la función de resumen de llamadas, puede ayudar a los usuarios a organizar los puntos clave del contenido de la llamada y generar con precisión un resumen que incluye el tema, los puntos clave y las tareas pendientes, con una precisión significativamente superior a la de los modelos de extremo de 1000 millones de parámetros.