SimSD: Decodificación especulativa simple en modelos de lenguaje de difusión
Descubre SimSD: un método de decodificación especulativa para modelos de difusión que acelera la inferencia hasta 7.46x sin sacrificar calidad.
#verificación de tokens
SENSE: Decodificación Especulativa con Incrustaciones Semánticas
Descubre SENSE: acelera inferencia de LLMs hasta 3.26x usando embeddings semánticos, sin perder calidad. Ideal para desarrolladores.