Vortex es un sistema que acelera el diseño de algoritmos de atención dispersa, logrando hasta 3.46x más rendimiento en LLMs. Ideal para agentes de IA que buscan optimizar la inferencia.
Descubre PyCC, la biblioteca Python que combina hipótesis e identificabilidad estructural para descubrir ecuaciones diferenciales a partir de datos temporales.
Descubre cómo la descomposición SVD funcional dispersa identifica patrones ocultos en datos longitudinales, aplicado a enfermedades inflamatorias y señales EEG.
Descubre cómo los métodos de aproximación dispersa reducen muestras para operadores de EDP, mejorando eficiencia e interpretabilidad
Optimiza la inferencia de LLMs con CLSA: atención dispersa entre capas que comparte índices de enrutamiento, logrando hasta 7.6x de aceleración en decodificación.
Mejora el rendimiento de mezclas dispersas de expertos con enrutamiento Sinkhorn selectivo. Sin pérdidas auxiliares, mayor eficiencia y robustez.
Descubre cómo Selective Sinkhorn Routing optimiza modelos SMoE eliminando pérdidas auxiliares, mejorando eficiencia y precisión en lenguaje e imágenes.
Descubre cómo las recompensas dispersas en el aprendizaje por refuerzo mejoran la ciberdefensa, ofreciendo políticas más seguras y efectivas que las densas.
Modelos de atención global y dispersa en RNN logran Sortino ratio de 2.0 en valoración de activos durante COVID-19. Resultados con 420 acciones de EE.UU.
Descubre SparDA, una arquitectura que acelera la inferencia de LLM de contexto largo hasta 5.3x, reduciendo el cuello de botella del caché KV.
Descubre cuándo es posible usar menos coordenadas en DP-SGD sin perder rendimiento. El método TP-TopK optimiza el entrenamiento privado reduciendo el ruido.
Descubre STRIDE, un nuevo método que atribuye predicciones de LLM a datos de entrenamiento mediante recuperación dispersa, logrando 13 veces más rapidez que métodos anteriores.
GNN optimizan asignación de recursos inalámbricos usando grafos de conflicto. Validado en planificación de enlaces a gran escala.
Descubre VaSE, un método de evicción de caché KV que protege valores grandes y usa estocasticidad para mejorar precisión en modelos de razonamiento. Reduce memoria 4x sin perder rendimiento.
Corrige sesgo espectral en operadores neuronales usando difusión posterior y observaciones dispersas, logrando predicciones precisas con solo un 5% de cobertura.
GLINT alinea visión-lenguaje en radiología con compuertas dispersas. Logra segmentación zero-shot en 3D sin supervisión y supera a modelos previos.
Descubre cómo la atención causal dispersa por bloques puede desconectar tokens adyacentes y cómo reparar los bordes con una solución eficiente.
Conoce Sparse FEONet, la red de operadores dispersa que reduce costos computacionales y memoria para PDEs paramétricas.
Descubre Vegas: acelera LLMs hasta 2.81x usando atención dispersa guiada por verificación. Sin pérdida, código abierto.
Descubre cómo el autoencoder disperso a nivel de paso (SSAE) desentraña el razonamiento de los LLMs, revelando información sobre corrección y lógica. Ideal para interpretabilidad en IA.