SMEPilot: Acelerando la inferencia LLM con extensiones matriciales
Descubre cómo SMEPilot optimiza la inferencia de LLM en CPUs usando extensiones matriciales, logrando hasta 3.94x de mejora en rendimiento.
#rendimiento de modelos de lenguaje
Descubre cómo SMEPilot optimiza la inferencia de LLM en CPUs usando extensiones matriciales, logrando hasta 3.94x de mejora en rendimiento.