Microsoft ha lanzado LongLLMLingua como código abierto, una tecnología que comprime las indicaciones de texto de los modelos. Utilizando LongLLMLingua, las indicaciones de texto pueden comprimirse hasta 20 veces, lo que ahorra significativamente el coste computacional de la IA. Los resultados experimentales muestran que las indicaciones comprimidas no solo mejoran el rendimiento del modelo, sino que también reducen la latencia. Esta tecnología tiene un amplio potencial de aplicación en escenarios con textos largos.
Compresión de indicaciones de texto para modelos, ahorrando significativamente potencia de cálculo de IA

站长之家
Este artículo proviene de AIbase Daily
¡Bienvenido a la columna [AI Diario]! Aquí está tu guía diaria para explorar el mundo de la inteligencia artificial. Todos los días te presentamos el contenido más destacado en el campo de la IA, centrándonos en los desarrolladores para ayudarte a comprender las tendencias tecnológicas y conocer las aplicaciones innovadoras de productos de IA.