Olvidar no es borrar: Claves de transporte recuperan conocimiento
El olvido catastrófico no borra conocimiento, solo desalinea interfaces. Descubre cómo claves de transporte recuperan conocimiento latente en IA.
#transformer
PSViT: Metodología de poda estructural para Spiking Vision Transformers
Aprende cómo PSViT comprime SViT con poda estructural: 22% menos memoria y alta precisión.
Red Neuronal de Grafos Multimodal para Clasificación de Alzheimer Preclínico
Red neuronal de grafos multimodal con difusión guiada por Transformer mejora la clasificación del Alzheimer preclínico mediante regiones cerebrales clave.
Ajuste fino de LFM2 con QLoRA y DPO: Tutorial en Google Colab
Aprende a hacer fine-tuning del modelo LFM2 con QLoRA y DPO en Google Colab. Tutorial paso a paso con código abierto. ¡Mejora tu IA!
Compresión extremo a extremo para modelos tabulares
Descubre cómo TACO comprime datasets tabulares en espacio latente, logrando hasta 94x más rapidez y 97% menos memoria sin perder rendimiento.
El sesgo de inducción en modelos secuenciales
Investigación muestra que los transformers requieren más datos que las RNN para seguimiento de estado y no comparten pesos entre longitudes. Descubre las diferencias clave.
Benchmarking de incertidumbre en clasificación multi-etiqueta de RX de tórax
Evaluamos 13 métodos de cuantificación de incertidumbre en clasificación de radiografías de tórax, desenredando incertidumbres epistémicas y aleatorias.
BAT: Transformer de Audio mejorado con Probing Convexo de Compuerta
Conoce BAT, el Transformer de Audio que usa Probing Convexo de Compuerta (CGP) para lograr nuevos récords en benchmarks de audio. ¡Entra!
Rompiendo la maldición de la reversión en modelos de lenguaje autoregresivos
El Puente de Identidad: un simple ajuste en los datos de entrenamiento que rompe la maldición de la reversión en modelos de lenguaje. Logra un 50% de éxito.
Prototype Transformer: hacia modelos interpretables por diseño
ProtoT usa prototipos para modelos de lenguaje interpretables, permitiendo transparencia y ediciones dirigidas.
Paralelismo de Modelos con Subredes de Datos
Descubre cómo el Subnetwork Data Parallelism reduce el uso de memoria en un 28-60% al entrenar modelos de IA, manteniendo el rendimiento. ¡Optimiza tu entrenamiento distribuido!
HRTFformer: Transformer espacial para upsampling de HRTF
Descubre cómo HRTFformer, un transformer consciente del espacio, revoluciona el upsampling de HRTF para audio inmersivo realista con alta precisión y fidelidad.
Predicción de postura 3D dinámica corporal al manipular cargas
Descubre cómo el Transformer supera a BLSTM en la predicción de postura 3D dinámica al manipular cargas, con mejoras de hasta un 58% en precisión.
Verificación Bit-Exacta en Inferencia IA sin Pérdida de Rendimiento
Asegura la integridad de tus modelos de IA: verificación bit-exacta sin pérdida de rendimiento. Ideal para auditoría y gobernanza contra adversarios ocultos.
C-GSPN: Nuevo codificador de visión a escala fundacional
C-GSPN: codificador de visión que iguala a ViT con 15% menos parámetros, mejora segmentación +2.1% y ofrece 4x de aceleración. ¡Conócelo!
Repensando Transformers: de escala a expresividad estructurada para CTR
Descubre cómo FAT revoluciona la predicción de CTR con expresividad estructurada: +4.38% AUC y +2.33% CTR en producción.
Interpreto: Biblioteca de Explicabilidad para Transformers
Interpreto: biblioteca Python de código abierto para explicar modelos transformer de HuggingFace. Ofrece atribuciones y explicaciones por conceptos para clasifi
Ajuste fino sin olvidar el aprendizaje en contexto: modelos de atención lineal
Descubre cómo afinar modelos de atención lineal sin perder el aprendizaje en contexto. Consejos teóricos para mejorar el rendimiento zero-shot.
Límites de generalización de longitud en transformers
Descubre por qué no existen límites computables de generalización de longitud para transformers y C-RASP, y cómo afecta al aprendizaje automático.
Marco de atribución monosemántica para interpretabilidad clínica estable
Un nuevo marco de atribución monosemántica estabiliza explicaciones en modelos de lenguaje para diagnósticos de Alzheimer, mejorando la confianza.