RLRC: Recuperación por Refuerzo para Modelos VLA Comprimidos
Descubre RLRC: compresión de modelos VLA con recuperación por refuerzo que reduce memoria 8x y acelera inferencia 2.3x sin perder rendimiento.
#compresión de modelos
Operator Boosting produce sustitutos Pareto-eficientes de PDE
Operator Boosting reduce parámetros hasta un 95% y mejora la precisión en sustitutos neuronales de PDE. Optimiza FNO, DeepONet y CNO con aprendizaje residual.
De compresión a despliegue: FastGRNN en tiempo real en microcontroladores
Descubre cómo desplegar FastGRNN en microcontroladores ultra limitados consiguiendo inferencia en tiempo real con solo 566 bytes de pesos. Optimización
Compresión de LLM: poda estructural y cuantización mixta
Descubre cómo optimizar poda estructural y cuantización mixta para reducir hasta 85% la perplejidad en LLM con bits ultrabajos. Mejora eficiencia.
Cuantización Shift-and-Sum para Modelos Autoregresivos Visuales
Descubre cómo la cuantización Shift-and-Sum mejora modelos autoregresivos visuales, reduce errores y logra nuevo estado del arte en generación y edición.
Arena Embebida: Optimización Iterativa con Retroalimentación de Hardware
Arena embebida: Agentes LLM optimizan modelos de IA para microcontroladores usando hardware real, logrando 250x compresión en visión y 400x en audio.
Destilación mejorada de conocimiento para clasificación de uso de suelo
Descubre la destilación de conocimiento mejorada que logra 99.04% precisión en clasificación uso de suelo, comprimiendo modelos sin perder rendimiento.
Cloudflare incorpora talento de Ensemble AI para acelerar su infraestructura de IA
Cloudflare suma al equipo de Ensemble AI para mejorar la eficiencia de inferencia y reducir costos en modelos de IA a gran escala. Descubre cómo esto beneficia a desarrolladores.
Inundación y cosecha: trivialidades necesarias para matemáticas valiosas
Descubre por qué las trivialidades matemáticas son indispensables para que la IA genere teoremas valiosos, según un nuevo estudio sobre verificación y generación de lenguaje.
UltraSketchLLM: Compresión de LLM a menos de 1 bit
Descubre UltraSketchLLM, un método que comprime LLMs a solo 0.5 bits por peso usando sketch, reduciendo la memoria GPU sin sacrificar rendimiento. ¡14.9x más rápido!
TabKD: Destilación tabular con diversidad de interacción de bins
Descubre cómo TabKD mejora la destilación de modelos en datos tabulares sin datos originales, priorizando la diversidad de interacciones entre características.
Modelos pequeños superan a grandes: destilación dual para baterías en el borde
El marco DLNet demuestra que modelos pequeños pueden superar a grandes en pronósticos de batería para el borde. Implementado en Arduino con 94 kB y 21 ms, reduce error un 15.4%.
Compresión sin datos ni entrenamiento para modelos de voz mediante agrupación de parámetros
Descubre cómo comprimir modelos de voz como HuBERT y Whisper sin necesidad de datos ni entrenamiento, reduciendo el WER hasta un 34% sin pérdida significativa. ¡Optimiza tu IA!
NuWa: Vision Transformers ligeros y específicos para edge
Descubre NuWa, el método que crea Vision Transformers ligeros para edge con mayor precisión específica por clase y sin reentrenamiento.
TENP: Poda Trapezoidal de Neuronas Expertas para Mezcla de Expertos
TENP: poda trapezoidal de neuronas para MoE. Reduce parámetros activos un 63% con solo 1 punto de pérdida de precisión. ¡Mejora código un 10%!
Más allá de los FLOPs: Evaluación de la aceleración real del pruning de LLM con taxonomía GEMM
Nueva taxonomía GEMM revela los límites prácticos del pruning en LLM. La poda estática y dinámica dominan según la pérdida de calidad. Resultados clave para acelerar inferencia.
Cumpliendo SLOs, Reduciendo Horas: Optimización Automatizada de LLM con OptiKIT
Optimiza LLMs empresariales sin experiencia previa gracias a OptiKIT: duplica el rendimiento GPU y reduce horas de trabajo.
Aprendizaje resistente al ruido de etiquetas con máscara de daño cerebral óptimo
Enmascaramiento selectivo de bordes basado en OBD intercepta gradientes ruidosos y mejora robustez frente a etiquetas ruidosas. Plug-and-play superior.
Compresión de bajo rango guiada por Pareto y activaciones para LLM/VLM
Optimiza LLM/VLM con compresión de bajo rango informada por activaciones y guiada por Pareto. Logra mayor eficiencia sin sacrificar precisión.
LiftQuant: Ancho de bits continuo en LLM mediante elevación dimensional
Descubre LiftQuant: cuantización continua de LLM que permite comprimir modelos de 70B a tan solo 2.4 bits, ajustándose perfectamente a tu memoria GPU.