Repensando descomposiciones tensoriales en compresión post-entrenamiento de LLMs
Descubre por qué descomposiciones tensoriales tienen limitaciones en la compresión de LLMs y cómo afectan a modelos densos y MoE. Análisis teórico y práctico.
#arquitecturas moe