HiSE: Explicador Semántico Jerárquico Ligero para Grafos Heterogéneos
HiSE es un explicador ligero para redes neuronales de grafos heterogéneos con explicaciones semánticas jerárquicas de alta fidelidad y bajo costo.
#modelo
Desmitificando el paralelismo de pipelines: teoría para PipeDream
Descubre cómo PipeDream logra convergencia en entrenamiento distribuido con un nuevo análisis teórico no convexo. Comparativa con LocalSGD.
Alineación con transcriptómica espacial mejora perfiles moleculares en patología
Descubre cómo STAMP alinea transcriptómica espacial con modelos de patología para mejorar el perfil molecular tumoral sin análisis genómicos costosos.
Speedrun de preentrenamiento de modelos tabulares
Descubre cómo el speedrun de nanoTabPFN logró un speedup de 81x en preentrenamiento de modelos tabulares. Participa y contribuye al benchmark abierto en GitHub.
Cuando los tokens de grafo se hunden: análisis mecanicista
Los tokens de grafo tienen alta activación pero baja utilidad semántica. Este análisis mecanicista revela la desconexión en modelos de lenguaje de grafos.
Compress then Merge: cómo fusionar LoRAs en un único adaptador
Descubre cómo fusionar múltiples LoRAs en un solo adaptador de bajo rango con Compress-then-Merge, mejorando eficiencia y rendimiento sin perder estructura.
Modelado de lenguaje conforme mediante muestreo posterior
Descubre cómo el muestreo posterior calibrado reduce las alucinaciones en LLMs, mejorando coherencia y utilidad en generación de texto.
TreeFlash: Aproximación AR Paralela para Decodificación Especulativa más Rápida
Descubre TreeFlash: acelera la decodificación especulativa con aproximación autorregresiva paralela. Logra un 12% más de eficiencia y 9% más de velocidad.
Convoluciones cortas dinámicas mejoran los Transformers
Aprende cómo las convoluciones dinámicas mejoran los Transformers con ventajas en eficiencia. Implementación con kernels Triton.
Reveal-IG: Atribución por caminos distribucionales
Reveal-IG: atribución basada en caminos distribucionales. Atribuciones estables con signo sin artefactos. Ideal para explicabilidad en IA.
VaSE: Evicción de Caché KV Estocástica Consciente del Valor
Descubre VaSE, un método de evicción de caché KV que protege valores grandes y usa estocasticidad para mejorar precisión en modelos de razonamiento. Reduce memoria 4x sin perder rendimiento.
Corrigiendo el sesgo espectral en operadores neurales con difusión posterior
Corrige sesgo espectral en operadores neuronales usando difusión posterior y observaciones dispersas, logrando predicciones precisas con solo un 5% de cobertura.
Skill-RM: Unificando Criterios Heterogéneos con Habilidades de Agente
Skill-RM unifica criterios heterogéneos usando habilidades de agente para optimizar LLMs en entrenamiento posterior. ¡Prueba el nuevo modelo!
Poblaciones neuronales: selectividad divergente con la escala
Un estudio revela cómo las neuronas en modelos de IA se vuelven más especializadas y menos compartidas a medida que crece el tamaño del modelo. Descubre el efecto de polarización neuronal.
Diagnosticar latentes de alta dimensión con estructura de fase
Descubre cómo diagnosticar fases en espacios latentes mejora generación y detección de anomalías. Nuevo paradigma basado en vidrio de espín.
Recuperación de la volatilidad acoplada al estado bajo observación parcial
Descubre cómo recuperar la volatilidad acoplada al estado en sistemas latentes con observación parcial usando filtros de partículas.
Filtro de Kalman Adaptativo Híbrido para Seguimiento y Clasificación Eficiente
Filtro de Kalman Adaptativo Híbrido con aprendizaje auto-supervisado para seguimiento y clasificación eficiente con pocos datos. Mejora la precisión y robustez.
Pronóstico de sismogramas de tres componentes con transformers
Descubre cómo SeismoGPT, un modelo transformer, pronostica sismogramas triaxiales. Aplicaciones en alerta sísmica y mitigación de desastres.
Respuesta a preguntas 3D Zero-Shot mediante transporte jerárquico de vista a token
Descubre cómo KeyVT optimiza la selección de vistas y tokens para responder preguntas sobre escenas 3D sin entrenamiento, superando a métodos existentes.
GLINT: Alineación dispersa de visión-lenguaje para radiología
GLINT alinea visión-lenguaje en radiología con compuertas dispersas. Logra segmentación zero-shot en 3D sin supervisión y supera a modelos previos.