Meta Platforms ha lanzado hoy una nueva versión reducida de su modelo Llama, incluyendo Llama 3.21B y 3B. Por primera vez, se ha logrado la ejecución estable de un modelo de lenguaje a gran escala en smartphones y tablets convencionales. Gracias a la innovadora integración de técnicas de cuantificación de entrenamiento y algoritmos de optimización, la nueva versión reduce el tamaño del archivo en un 56%, la necesidad de memoria RAM en un 41%, y aumenta la velocidad de procesamiento hasta 4 veces la versión original, pudiendo procesar 8.000 caracteres de texto de forma continua.
En pruebas realizadas en teléfonos Android, los modelos de IA comprimidos de Meta (SpinQuant y QLoRA) mostraron una mejora significativa en velocidad y eficiencia en comparación con la versión estándar. Los modelos más pequeños aumentaron su velocidad cuatro veces, mientras que la ocupación de memoria se redujo.
En pruebas reales con un OnePlus 12, la versión comprimida mostró un rendimiento comparable a la versión estándar, pero con una eficiencia significativamente mayor, resolviendo eficazmente el problema de la limitada potencia de cálculo de los dispositivos móviles. Meta ha optado por una estrategia de mercado de colaboración abierta, trabajando estrechamente con fabricantes de procesadores móviles líderes como Qualcomm y MediaTek. La nueva versión se lanzará simultáneamente a través del sitio web oficial de Llama y la plataforma Hugging Face, ofreciendo a los desarrolladores un acceso sencillo.
Esta estrategia contrasta con la de otros gigantes del sector. Mientras Google y Apple optan por integrar las nuevas tecnologías profundamente en sus sistemas operativos, la estrategia abierta de Meta ofrece a los desarrolladores un mayor espacio para la innovación. Este lanzamiento marca un cambio en el procesamiento de datos, pasando de servidores centralizados a dispositivos personales. El procesamiento local no solo protege mejor la privacidad del usuario, sino que también ofrece una experiencia más rápida.
Este avance tecnológico podría provocar un cambio tan significativo como la popularización de los ordenadores personales, aunque todavía existen desafíos como los requisitos de rendimiento de los dispositivos y la elección de las plataformas de desarrollo. A medida que la potencia de los dispositivos móviles siga mejorando, las ventajas del procesamiento local se harán más evidentes. Meta espera impulsar, mediante la colaboración abierta, a toda la industria hacia una mayor eficiencia y seguridad, abriendo nuevas vías para el desarrollo de aplicaciones en dispositivos móviles.