BitsMoE: Asignación eficiente de bits para cuantización de MoE LLM
BitsMoE asigna bits inteligentemente en MoE LLM, logrando cuantización 2 bits con 27.83% más precisión, 12.3x más rápida y 1.76x más velocidad.
#bits
Límites inferiores teóricos para optimización estocástica con bits limitados
Descubre cómo los límites informacionales afectan la optimización estocástica con gradientes de baja precisión: reducción a estimación gaussiana.
ML con Túnel Cuántico: Modelos de Ruido Físicos
El algoritmo TAC corrige errores por túnel cuántico en IA sin reentrenamiento. Recupera el 95% de precisión con 3.4x menos gastos generales.