AXON: revelación de tokens de apoyo para decodificación rápida
AXON es un módulo sin entrenamiento que optimiza la decodificación paralela en modelos de difusión, reduciendo evaluaciones y mejorando precisión.
#decodificación
Revelación de tokens de apoyo para decodificación rápida en modelos de difusión
Descubre AXON, un módulo que mejora la decodificación en modelos de difusión al revelar tokens de apoyo, reduciendo pasos y manteniendo precisión. Optimiza el equilibrio entre calidad y latencia.
SSSD: Decodificación Especulativa Simple y Escalable
Descubre SSSD, un método gratuito que acelera la inferencia de LLM hasta 2.9x sin necesidad de entrenamiento ni modelos auxiliares. Robusto en cambios de idioma y contexto largo.
SSSD: Decodificación Especulativa Simplemente Escalable
Descubre SSSD, un método de decodificación especulativa sin entrenamiento que acelera la inferencia de LLMs hasta 2.9x con menor latencia y alta robustez.
D^2SD: Decodificación especulativa acelerada con difusión dual
Descubre cómo D^2SD acelera la inferencia de modelos de lenguaje usando dos difusores para generar y verificar tokens en paralelo, mejorando la eficiencia.
Planificar, Verificar y Completar: Decodificación Paralela en Modelos de Difusión
Descubre PVF, un nuevo método de decodificación paralela para modelos de difusión que reduce hasta un 65% las evaluaciones de función sin perder precisión.
KnapSpec: Decodificación Especulativa con Selección Adaptativa de Capas
KnapSpec acelera inferencia LLMs hasta 1.47x sin entrenamiento. Selecciona capas adaptativas como problema mochila. Optimiza rendimiento en secuencias.
TreeFlash: Aproximación AR Paralela para Decodificación Especulativa más Rápida
Descubre TreeFlash: acelera la decodificación especulativa con aproximación autorregresiva paralela. Logra un 12% más de eficiencia y 9% más de velocidad.
SEAOTTER: Autoencoder de sensores para reconstrucción eficiente
Descubre SEAOTTER, un innovador framework de compresión para robótica en la nube que combina autoencoders con JPEG, logrando 200:1 de compresión y 7x más velocidad que AVIF.
Predicción rápida y expresiva de múltiples bytes con circuitos probabilísticos
Descubre cómo MTPC acelera LLMs con circuitos probabilísticos, logrando rapidez y expresividad sin pérdida de calidad.
Fast-dLLM++: Perfil Fréchet para Inferencia más Rápida de LLM Difusión
Fast-dLLM++ acelera inferencia de LLM difusivos sin modificar modelo, aprovechando confianza heterogénea para lograr 37% más rendimiento sin perder precisión.
No seas tan Stief: optimización de KV Cache en la variedad de Stiefel
Descubre cómo StiefAttention comprime el caché KV con aproximación de rango bajo en la variedad de Stiefel, mejorando precisión y eficiencia en modelos de lenguaje.
dgMARK: Marcado de Agua Guiado por Decodificación para Modelos de Lenguaje de Difusión
Descubre dgMARK: el nuevo marcado de agua guiado por decodificación para modelos de difusión. Protege tu IA fácilmente.
ParisKV: Recuperación de caché KV rápida y robusta ante deriva para LLMs largos
ParisKV: recuperación de caché KV para LLMs largos, hasta 44x más rápido y robusto ante deriva. Optimiza tu inferencia.
Agentes de Recompensa de Proceso para Guiar el Razonamiento Intensivo
Descubre cómo los PRA mejoran el razonamiento intensivo en conocimiento con recompensas paso a paso, logrando 81.9% en MedQA con Qwen3-4B.
T-POP: Personalización en tiempo real con preferencias en línea
Descubre T-POP, personalización rápida de LLMs sin reentrenamiento usando preferencias en línea y bandidos duelistas.
Difusión Discreta VLA: Decodificación Adaptativa de Acciones Robóticas
Descubre cómo Difusión Discreta VLA decodifica acciones robóticas con orden adaptativo y corrección de errores. 96.4% éxito en LIBERO.
Codificación Byte Pair para Pronóstico Eficiente de Series Temporales
Mejora un 40% el pronóstico de series temporales y acelera el rendimiento un 2314% con tokenización Byte Pair. Decodificación condicional sin coste.
d2: Mejora del razonamiento en modelos de difusión con estimación de trayectoria
Descubre d2, un marco de razonamiento para modelos de difusión que mejora el rendimiento en tareas lógicas y matemáticas, superando a RL tradicional.
Vegas: Decodificación Auto-Especulativa con Atención Dispersa Verificada
Descubre Vegas: acelera LLMs hasta 2.81x usando atención dispersa guiada por verificación. Sin pérdida, código abierto.