HeRo-Q: Marco para cuantización estable de bajo bit con condicionamiento Hessiano
Descubre HeRo-Q, un framework que estabiliza la cuantización de bajo bit en LLMs mediante condicionamiento Hessiano, superando a GPTQ y AWQ. Ideal para W3A16.
#hero-q
HeRo-Q: Marco cuantización estable de bajo bit con condicionamiento hessiano
Descubre HeRo-Q: estabiliza la cuantización de bajo bit en LLMs con condicionamiento hessiano. Mejora rendimiento sin cambios. ¡Lee más!