#multi-spin

Multi-SPIN: inferencia especulativa multiacceso para generación cooperativa de tokens en el borde

Multi-SPIN acelera la generación de tokens combinando modelos pequeños en dispositivos con LLM en servidores edge. Mejora el goodput hasta un 88%.