Precarga espacio-temporal de expertos para inferencia eficiente en MoE LLM
Descubre cómo la precarga espacio-temporal de expertos acelera la inferencia de LLMs MoE sin sacrificar precisión. Mejora rendimiento y eficiencia energética.
#precarga de expertos