Selección online de LLMs con bandidos restringidos y demanda variable
Aprende a seleccionar el LLM óptimo usando bandidos restringidos, adaptándose a demanda variable y cumpliendo restricciones de presupuesto y latencia.
Aprende a seleccionar el LLM óptimo usando bandidos restringidos, adaptándose a demanda variable y cumpliendo restricciones de presupuesto y latencia.
Descubre PLAIground: selecciona modelos de IA en tiempo real para cumplir SLOs de precisión, latencia y coste en sistemas edge-cloud-space.