Expresión fiel de confianza en modelos de razonamiento grandes
¿Los modelos de razonamiento grandes expresan su confianza de forma fiel? Cuantificamos la calibración entre incertidumbre interna y verbalizada, revelando desa
#presión
Planificación incierta: simetrías, inferencia de políticas y compresión
Descubre cómo las simetrías, la inferencia de políticas y la compresión de soluciones revolucionan la planificación con incertidumbre en IA.
Costuras que arruinan tus impresiones 3D: qué son y cómo ocultarlas
¿Tus impresiones 3D tienen antiestéticas líneas? Descubre qué son las costuras y los mejores trucos para ocultarlas y lograr piezas perfectas.
Bloqueo de signos: persistencia y cuello de botella sub-bit
Los signos de pesos inicializados persisten y crean un cuello de botella en compresión sub-bit. Descubre la teoría de bloqueo de signos y un nuevo método.
¿Qué aprenden los estudiantes? Análisis de características en KD
Analizamos el aprendizaje de características en destilación de conocimiento y presentamos Confusion Distillation, una auto-destilación eficiente que supera a otros métodos en 1.2%.
Perspectiva geométrica en compresión alineada con física
Descubre cómo la teoría geométrica explica el intercambio entre preservar observables físicos y la fidelidad de reconstrucción en compresión de datos científicos. Un nuevo diagnóstico de alineación.
Compresión de datos alineada con la física: una perspectiva geométrica
Descubre cómo la geometría local explica el conflicto entre propiedades físicas y fidelidad en compresión con IA. Nuevo diagnóstico de alineación.
Compress then Merge: cómo fusionar LoRAs en un único adaptador
Descubre cómo fusionar múltiples LoRAs en un solo adaptador de bajo rango con Compress-then-Merge, mejorando eficiencia y rendimiento sin perder estructura.
Condensación de grafos textuales: selección de texto y coincidencia de atributos
Descubre TAGSAM, el método que condensa grafos con texto al 1% sin perder precisión y con un 4.9% más de exactitud. Optimiza tus modelos de IA.
VaSE: Evicción de Caché KV Estocástica Consciente del Valor
Descubre VaSE, un método de evicción de caché KV que protege valores grandes y usa estocasticidad para mejorar precisión en modelos de razonamiento. Reduce memoria 4x sin perder rendimiento.
SEAOTTER: Autoencoder de sensores para reconstrucción eficiente
Descubre SEAOTTER, un innovador framework de compresión para robótica en la nube que combina autoencoders con JPEG, logrando 200:1 de compresión y 7x más velocidad que AVIF.
Cuantización y características interpretables: análisis con autoencoders dispersos
La cuantización no destruye todas las características interpretables: un análisis revela que el 62% persiste en INT6, pero las métricas engañan.
PSViT: Metodología de poda estructural para Spiking Vision Transformers
Aprende cómo PSViT comprime SViT con poda estructural: 22% menos memoria y alta precisión.
AdaCoM: Gestión adaptativa de contexto para agentes LLM
Descubre AdaCoM, un método de gestión de contexto adaptativo que mejora el rendimiento de agentes LLM en tareas largas, preservando restricciones y comprimiendo contenido obsoleto.
Poda de redes neuronales post-entrenamiento con curvatura de grafos
Descubre cómo la curvatura de grafos permite podar redes neuronales sin perder precisión. Técnica innovadora basada en Ollivier-Ricci para identificar conexiones clave.
No seas tan Stief: optimización de KV Cache en la variedad de Stiefel
Descubre cómo StiefAttention comprime el caché KV con aproximación de rango bajo en la variedad de Stiefel, mejorando precisión y eficiencia en modelos de lenguaje.
Float8@2bits: compresión de modelos sin datos vía codificación de entropía
EntQuant comprime modelos de 70B parámetros en solo 10 minutos sin datos de calibración, alcanzando SOTA en compresión extrema a 2 bits con codificación de entropía.
Aprendizaje supervisado como compresión con pérdida: generalización
Descubre el aprendizaje supervisado como compresión con pérdida: análisis de bloque finito para generalización y complejidad de muestra.
Compresión extremo a extremo para modelos tabulares
Descubre cómo TACO comprime datasets tabulares en espacio latente, logrando hasta 94x más rapidez y 97% menos memoria sin perder rendimiento.
HiPPO Zoo: Memoria Explícita para Modelos de Estado Interpretables
Descubre cómo las extensiones del framework HiPPO ofrecen memoria adaptativa y asociativa en modelos de espacio de estado, manteniendo la interpretabilidad. Un