Análisis de estabilidad de Sharpness-Aware Minimization
Descubre cómo el algoritmo SAM puede quedarse atrapado en puntos de silla y cómo el momentum y el tamaño de lote ayudan a mejorar su estabilidad y generalización.
#estocástico
Cómo ampliar el aprendizaje centrado en decisiones con estimación de gradiente
Nuevo método basado en función de puntuación amplía el aprendizaje centrado en decisiones a problemas con incertidumbre en restricciones.
Deep Learning como la construcción disciplinada de objetos dóciles
Exploramos cómo la geometría dócil proporciona un marco matemático para garantizar la convergencia del descenso de gradiente en deep learning, incluso en entornos no lisos y no convexos.
El redondeo estocástico aumenta los valores singulares pequeños
El nuevo estudio muestra que el redondeo estocástico regulariza todo el espectro de valores singulares, no solo los más pequeños.
Convergencia de métodos de gradiente estocástico bajo ruido de cola pesada
Descubre cómo SGD y SMD convergen en expectativa bajo ruido de cola pesada sin modificaciones. Nuevos resultados revelan su potencial.
Recuperación exacta de comunidades en SBM con consultas limitadas
Descubre cómo las consultas adaptativas superan el límite de consultas uniformes para recuperar comunidades exactamente.
Paso Polyak estocástico protegido para optimización no suave
Nuevo método SPS protegido para optimización no suave en redes neuronales. Convergencia robusta sin gradientes pequeños. ¡Mejora tu entrenamiento!
Control regularizado con KL bien planteado vía divergencias Wasserstein y Kalman-Wasserstein
Nuevas divergencias Wasserstein y Kalman-Wasserstein mejoran el control KL, ofreciendo soluciones estables incluso con ruido bajo: doble integrador y cart-pole.
RADE: Regularización con adición y eliminación aleatoria de aristas
RADE: aumento estocástico de aristas que reduce sobreajuste y sobre-compresión en GNNs. Sin desalineación entrenamiento-inferencia, mejora el rendimiento.
Aprendizaje de redes con Gromov-Wasserstein semirrelajado
Descubre cómo el algoritmo semi-relajado de Gromov-Wasserstein permite estimar la estructura latente de redes masivas de forma eficiente, con garantías de consistencia y convergencia óptima.
Cuantificación precisa de incertidumbre en grandes muestras con SG-MCMC
Descubre cómo nuevas aproximaciones discretas a SGLD permiten cuantificar incertidumbre en grandes conjuntos de datos para mejor ajuste y robustez.
Mapas de Flujo Estocásticos Fuertes
Descubre cómo los Strong Stochastic Flow Maps revolucionan el muestreo en modelos de difusión, permitiendo generar imágenes y simular sistemas moleculares en pocos pasos.
Identificación de mejor acción con dos fidelidades en árboles minimax estocásticos
Descubre cómo el algoritmo 2FFS reduce costos computacionales al combinar evaluaciones rápidas y precisas para identificar la mejor acción en árboles minimax estocásticos.
Sistemas Distribuidos Post-Deterministas: Base para Infraestructura Autónoma
Descubre cómo los sistemas post-deterministas coordinan agentes autónomos y deterministas para una infraestructura confiable. Cinco pilares clave para la nueva era de la autonomía.
La paradoja de la optimización por resultados en LLMs
Los LLMs optimizados por resultados alcanzan altos benchmarks pero colapsan en razonamiento. Te explicamos la paradoja y cómo los modelos de recompensa de procesos la resuelven.
S3TS: Búsqueda estructurada por escenarios para planificación bajo incertidumbre
Descubre S3TS, un algoritmo que combina escenarios estocásticos y búsqueda estructurada para planificar bajo incertidumbre. Reduce costes hasta un 51% en sistemas energéticos no lineales.
Convergencia no asintótica de algoritmos estocásticos: marco de Lyapunov
Descubre cómo el marco de Lyapunov permite analizar la convergencia en tiempo finito de algoritmos estocásticos como Q-learning y SGD. Ideal para IA y RL.
Convergencia no asintótica de algoritmos estocásticos: marco de Lyapunov
Descubre cómo las funciones de Lyapunov permiten analizar la convergencia finita de algoritmos estocásticos en aprendizaje automático y refuerzo.
Funciones de valor como certificados de supermartingala
Descubre cómo las funciones de valor en RL sirven como certificados de supermartingala para garantizar propiedades en sistemas estocásticos. ¡Una conexión teórica revolucionaria!
Modelos de dinámicas de red con múltiples condiciones iniciales usando WSINDy
Descubre cómo WSINDy extrae modelos efectivos de dinámicas en redes usando múltiples condiciones iniciales, mejorando precisión con alto ruido.