Descomposición en volumen y frontera de redes neuronales
Descubre cómo la descomposición bulk-boundary revela dinámica intrínseca y estocástica de redes neuronales, con ecuación de continuidad de energía.
#gradiente descendente
Optimización Riemanniana Descentralizada en Línea más allá de Hadamard
Nuevo algoritmo de optimización Riemanniana descentralizada online con consenso curvatura y cota de arrepentimiento O(√T).
GD completo supera a SGD de una pasada en aprendizaje de índice único
¡Descubre cómo el GD completo supera al SGD de una pasada! Logra recuperación con menos muestras en aprendizaje de índice único.
Etiquetas duras de objetivos dispersos engañan algoritmos invariantes a rotación
Las etiquetas duras de objetivos dispersos hacen fallar a algoritmos invariantes a rotación. Conoce cómo evitarlo en regresión logística.
Dinámicas de aprendizaje bajo reparametrización relativa de modelos singulares
Descubre cómo la reparametrización relativa optimiza la convergencia en modelos singulares como GMM y redes neuronales. Teoría y experimentos.
Utilidad y complejidad del machine unlearning dentro y fuera de distribución
Descubre el machine unlearning: eliminación selectiva de datos en IA. Analizamos complejidad dentro y fuera de distribución y proponemos un nuevo método.
Modelo ensamblado de factores latentes con evolución diferencial y gradiente
El modelo ELFM-DEGDO combina evolución diferencial y gradiente descendente para mejorar representación de datos HDI, superando sesgos de optimización.
Paso Polyak estocástico protegido para optimización no suave
Nuevo método SPS protegido para optimización no suave en redes neuronales. Convergencia robusta sin gradientes pequeños. ¡Mejora tu entrenamiento!
Transformers con normalización de capa aprenden el método de potencia
Transformers con normalización de capa aprenden el método de potencia por gradiente descendente, revelando un sesgo algorítmico que mejora la predicción de componentes principales.
Cómo equilibrar tasas de aprendizaje entre capas en redes neuronales lineales
Descubre cómo equilibrar las tasas de aprendizaje entre capas en redes lineales mejora el rendimiento temprano. Resultados teóricos y experimentales.
Convergencia no asintótica de algoritmos estocásticos: marco de Lyapunov
Descubre cómo las funciones de Lyapunov permiten analizar la convergencia finita de algoritmos estocásticos en aprendizaje automático y refuerzo.