RouteLLM es un marco para enrutar y evaluar modelos de lenguaje grandes (LLM). Ahorra costos manteniendo la calidad de las respuestas al enrutar inteligentemente las consultas a modelos con diferentes costos y rendimientos. Ofrece enrutadores listos para usar y muestra una reducción de costos de hasta el 85% y un 95% del rendimiento de GPT-4 en pruebas comparativas ampliamente utilizadas.