RepNet: Abordando el sesgo espectral en redes profundas con reparametrización
Descubre cómo RepNet elimina el sesgo espectral con reparametrización, logrando alta precisión en problemas oscilatorios y multiescala.
#reparametrización
Beneficios de la normalización de pesos en sensado matricial sobreparametrizado
Descubre cómo la normalización de pesos acelera exponencialmente la convergencia en detección de matrices sobreparametrizadas. Un avance teórico clave.
GauS: Optimización de Scheduling con Reparametrización Gaussiana
Descubre cómo GauS optimiza el scheduling con reparametrización gaussiana, logrando resultados Pareto-óptimos en compilación y hardware.
Poda estructurada vs no estructurada: una brecha exponencial
Un estudio revela que la poda de neuronas requiere exponencialmente más neuronas iniciales que la poda de pesos, una brecha sorprendente en el SLTH.
Estudio sistemático de profundidad en STGCN para predicción de tráfico
¿Cuántos bloques necesita un STGCN? Un solo bloque predice tráfico con precisión similar y 61% menos latencia que el estándar de 2 bloques. Eficiencia para ITS.
Tasas óptimas de generalización en descenso de gradiente con redes profundas
Descubre cómo GD y SGD alcanzan tasas óptimas de generalización en redes ReLU profundas, con resultados minimax comparables a kernels.
Dinámicas de aprendizaje bajo reparametrización relativa de modelos singulares
Descubre cómo la reparametrización relativa optimiza la convergencia en modelos singulares como GMM y redes neuronales. Teoría y experimentos.
Efecto de la reparametrización con campos neuronales en 4DVAR
Descubre cómo la reparametrización con campos neuronales estabiliza 4DVAR sin datos de entrenamiento, mejorando precisión y velocidad en asimilación de datos.
¿Qué tan abundantes son los buenos interpoladores?
Descubre cómo la mayoría de los interpoladores lineales tienen un rendimiento similar, y por qué algunos métodos superan al resto en inteligencia artificial.
¿El orden importa? La Ley de Robustez y la Generalización Robusta
Analizamos la conexión entre la Ley de Robustez y la generalización robusta. ¿Cómo afecta el orden de las cotas de Lipschitz a la complejidad de Rademacher? Descúbrelo.
Mínimos locales en redes ReLU de dos capas: un análisis preciso
Descubre cómo se caracterizan los mínimos locales en redes ReLU de dos capas y cómo la sobreparametrización facilita el acceso a mínimos globales.
Autoencoders Variacionales Hipersféricos con Cauchy Esférica Eficiente
VAEs hipersféricos con Cauchy esférica: más eficiente y estable que vMF. Ideal para datos complejos.
Generalización de los algoritmos Gibbs y Langevin Monte Carlo en el régimen de interpolación
Nuevas cotas de generalización para algoritmos Monte Carlo en el régimen de interpolación, con resultados en MNIST, CIFAR-10 y SVHN.
Regularización óptima para aprendizaje performativo
Descubre cómo la regularización óptima reduce el riesgo en aprendizaje performativo, beneficiándose incluso en regímenes sobreparametrizados. Clave para IA robusta.