Microsoft ha lanzado LongLLMLingua como código abierto, una tecnología que comprime las indicaciones de texto de los modelos. Utilizando LongLLMLingua, las indicaciones de texto pueden comprimirse hasta 20 veces, lo que ahorra significativamente el coste computacional de la IA. Los resultados experimentales muestran que las indicaciones comprimidas no solo mejoran el rendimiento del modelo, sino que también reducen la latencia. Esta tecnología tiene un amplio potencial de aplicación en escenarios con textos largos.