Lodestar: enrutador de inferencia LLM con aprendizaje en línea Lodestar optimiza el enrutamiento de inferencia LLM mediante aprendizaje en línea, logrando hasta 4x menor TTFT en clústeres heterogéneos. 2026-06-02 · 2 min
