¿Cuándo bastan menos coordenadas en DP-SGD?
Descubre cuándo es posible usar menos coordenadas en DP-SGD sin perder rendimiento. El método TP-TopK optimiza el entrenamiento privado reduciendo el ruido.
#gradiente estocástico
Optimización estocástica descentralizada no convexa bajo suavidad (L0,L1)
Nuevo algoritmo DNSGD: optimización descentralizada no convexa con suavidad (L0,L1). Logra punto estacionario con menor complejidad. ¡Descúbrelo!
Introducción a métodos de optimización para entrenar modelos SciML
Aprende cómo la física y los operadores diferenciales condicionan la optimización en SciML. Métodos de primer y segundo orden, aplicaciones prácticas y desafíos.