Brick: Enrutamiento por Capacidad Espacial para Mezcla-de-Modelos
Ahorra hasta 22x en costes cloud con Brick, el router multimodal que enruta cada consulta al modelo ideal. Precisión del 76.98%.
#mezcla
CuMA: Mezcla de adaptadores para alinear LLMs a valores culturales dispersos
CuMA alinea modelos de lenguaje a valores culturales usando mezcla de adaptadores, evitando el colapso medio y preservando la pluralidad cultural.
Árboles de Presupuesto Latente Simultáneo para Clasificación Estratificada
Clasificación estratificada interpretable con Árboles de Presupuesto Latente Simultáneo. Controla variables temporales, espaciales o demográficas.
Mezcla rápida para medidas de Gibbs en variedades riemannianas
Descubre cómo la mezcla rápida de Gibbs en variedades riemannianas logra tiempos polinomiales evitando barren plateaus y mínimos espurios.
Tiempos de mezcla en Gibbs con aumento de datos para probit de alta dimensión
Analizamos los tiempos de mezcla de Gibbs con aumento de datos en regresión probit de alta dimensión. Límites explícitos y cómo elegir prior que acelera la convergencia.
Intervenir o no: Alineación en inferencia con BlendIn
Descubre cómo BlendIn optimiza la alineación de LLMs en inferencia, combinando modelos de forma fiable para mejorar el rendimiento hasta un 50%. ¡Lee más!
Robustez de Mezclas de Expertos ante el Ruido de Características
Descubre cómo las Mezclas de Expertos (MoE) filtran el ruido en los datos, superando a redes densas en precisión y eficiencia. Resultados en tareas de lenguaje.
Atención Lineal Kalman: Filtrado Bayesiano Paralelo para Lenguaje
Descubre KLA: Atención Lineal de Kalman, un filtrado bayesiano paralelo que supera a Mamba y GLA en modelos de lenguaje.
Estimación insesgada de derivadas para medias estacionarias
Aprende cómo estimar gradientes de forma insesgada en cadenas de Markov, incluso con mezcla lenta. Perfecto para modelos con redes neuronales.
Estimación de densidad Hellinger con distancia mínima: mezclas gaussianas y más
Descubre cómo el estimador de distancia mínima con Hellinger logra estimar densidades en tiempo casi lineal para mezclas gaussianas y log-cóncavas. ¡Lee más!
Agrupación de exoplanetas cercanos con machine learning y acreción de guijarros
Descubre cómo el machine learning clusteriza exoplanetas cercanos y los vincula con la acreción de guijarros, revelando subpoblaciones y procesos de formación.
Mezcla multitasa de expertos para acelerar entrenamiento de LNN
Descubre cómo MR-MoE acelera el entrenamiento de redes líquidas con expertos multitasa y atención para mejorar predicción de series temporales.
Rediseño de enrutadores MoE con Iteración de Potencia en Variedades
Descubre el innovador método MPI que alinea los enrutadores MoE con direcciones singulares para mejorar eficiencia y precisión.
N-GRPO: Mezcla de Vecinos a Nivel de Embedding para Optimización de Políticas
Descubre N-GRPO, una nueva estrategia de exploración que mejora el razonamiento matemático de LLMs mediante la mezcla inteligente de embeddings semánticos. Resultados consistentes en benchmarks.
N-GRPO: Mezcla de Vecinos en Embeddings para Optimización
Descubre cómo N-GRPO revoluciona la exploración en modelos de lenguaje, generando trayectorias diversas sin perder coherencia semántica. Mejora el razonamiento matemático en LLMs.
Flash-GMM: Kernel eficiente en memoria para clustering suave escalable
Flash-GMM: clustering GMM en GPU 20x más rápido. Procesa datasets 100x mayores. Mejora búsqueda ANN. ¡Descúbrelo!
Mezclas de operadores neuronales reducen complejidad activa
Descubre cómo las Mezclas de Operadores Neuronales reducen la complejidad activa en el aprendizaje de operadores, mejorando la eficiencia computacional.
TENP: Poda Trapezoidal de Neuronas Expertas para Mezcla de Expertos
TENP: poda trapezoidal de neuronas para MoE. Reduce parámetros activos un 63% con solo 1 punto de pérdida de precisión. ¡Mejora código un 10%!
Mejora en el análisis de convergencia de topología en SGD descentralizado
Descubre cómo un nuevo análisis de convergencia revela el verdadero impacto de la topología de red en el rendimiento del SGD descentralizado. Te sorprenderá.
Extrapolación de modelos de score locales: teoría y benchmark
Descubre cuándo los modelos de score locales extrapolan correctamente a sistemas más grandes. Teoría, diagnóstico y benchmark FDLF para estabilidad en generación científica.