PermDoRA: Límites de la geometría en interferencia de adaptadores
La geometría del espacio de parámetros no predice la interferencia al combinar adaptadores en LLMs. Análisis con DoRA-RBAC y benchmarks de QA.
#ortogonalidad
Factorización triple ortogonal no negativa para matrices simétricas
Descubre cómo resolver el problema de factorización triple de matrices no negativas ortogonales simétricas con dos nuevos algoritmos heurísticos. Aplicaciones en clustering y redes.
Ortogonalidad y dimensionalidad en clústeres de aerolíneas con PCA y Kernel PCA
Descubre cómo PCA y Kernel PCA revelan la robustez de clústeres en aerolíneas, y por qué el silueta indica solo 3 grupos.
Ortogonalidad en clústeres de aerolíneas: PCA y Kernel PCA
Descubre cómo PCA y Kernel PCA revelan la estructura oculta en los ciclos de ganancias de aerolíneas estadounidenses (1995-2020).
Aprendiz Ortogonal para Estimar Efectos de Tratamiento a Largo Plazo
Descubre el nuevo LT-O-learner: un método ortogonal robusto para estimar efectos de tratamiento a largo plazo incluso con baja superposición. Ideal para marketing y medicina.
AnchorMoE: Clasificación de Series Temporales con MoE Enrutado por Anclajes
Clasificación interpretable de series temporales con AnchorMoE: transparencia ante-hoc sin post-hoc. Ideal para diagnóstico clínico y detección de fallos.
Capacidad Representacional: Límites Geométricos en Transformers
Descubre cómo la dimensión del modelo establece los límites geométricos para la representación de características en transformers, y cómo estimar la capacidad real de direcciones ortogonales.
Gradientes estocásticos bajo parámetros nuisance
Cómo los gradientes estocásticos convergen con parámetros nuisance. Ortogonalidad de Neyman y actualizaciones ortogonalizadas para optimización robusta.
Inferencia robusta de heterogeneidad de riesgo en grupos desbalanceados
Descubre cómo un nuevo método robusto basado en Neyman ortogonalidad revela diferencias étnicas en riesgo de mortalidad en UCI que otros métodos no detectan.
Score Broadcast y Descorrelación: Marco General de Asignación de Crédito
El nuevo marco Score Broadcast and Decorrelation (SBD) mejora la asignación de crédito por broadcast, con soporte para múltiples pérdidas y resultados superiores en CIFAR-10.