Denoise primero, ortogonaliza después: Momento en Muon como filtro espectral
Descubre cómo el momento en Muon filtra el ruido del gradiente, mejorando el entrenamiento de LLMs. Un análisis teórico con respaldo experimental.
#ruido
Filtro de Kalman Adaptativo Híbrido para Seguimiento y Clasificación Eficiente
Filtro de Kalman Adaptativo Híbrido con aprendizaje auto-supervisado para seguimiento y clasificación eficiente con pocos datos. Mejora la precisión y robustez.
Evaluación crítica de PINN vs FEM diferenciable para análisis inverso de FWD
Descubre por qué la FEM diferenciable supera a las PINN en el análisis inverso de deflectómetros de peso (FWD) para pavimentos: mayor precisión, robustez y eficiencia.
Bregman y Lévy: Descenso de espejo estocástico con ruido de cola pesada
¿Puede el descenso de espejo estocástico converger con ruido de cola pesada? Sí, usando procesos de Lévy. Optimización robusta para IA y cloud.
Annot-Mix: Aprendizaje con etiquetas ruidosas de múltiples anotadores vía Mixup
Annot-Mix mejora el entrenamiento con etiquetas ruidosas de múltiples anotadores vía Mixup. Superior a 11 enfoques en 11 datasets.
Efecto Ringelmann en LLMs multi-agente: Ley de escalado
El Efecto Ringelmann revela que añadir más agentes LLM no siempre mejora resultados. Descubre la ley de escalado para equipos efectivos.
Alucinaciones como ruido ortogonal: alineación de manifold en LLMs
Descubre cómo el nuevo método DCO alinea el manifold semántico en LLMs para reducir alucinaciones, mejorando la fidelidad contextual sin sacrificar conocimiento.
Memorización: ¿útil o perjudicial? El umbral lo determina la información previa
Descubre cómo la información previa determina si la memorización en modelos lineales es beneficiosa o perjudicial, según el umbral de ruido.
Clasificación binaria: pública y privada con predictores en espacios métricos
Clasificación binaria con Proto-NN: consistencia universal y privacidad diferencial local con ruido de Laplace.
Convergencia de métodos de gradiente estocástico bajo ruido de cola pesada
Descubre cómo SGD y SMD convergen en expectativa bajo ruido de cola pesada sin modificaciones. Nuevos resultados revelan su potencial.
Supervisión Feynman-Kac ruidosa para entrenar PINNs
Aprende cómo la supervisión Feynman-Kac mejora PINNs, reduce el mal condicionamiento y ofrece cotas de error. Ejemplos en Poisson, Schrödinger y más.
Almacenes de datos con privacidad diferencial para inferencia aumentada
Descubre cómo generar almacenes de datos con privacidad diferencial usando LSH: solo 2.6% de pérdida de precisión y resistencia a ataques de membresía.
Recocido Autorregulado en Modelos de Difusión de Cola Pesada
Aprende cómo el recocido autorregulado en modelos de difusión de cola pesada mejora el muestreo adaptativo. Optimiza la generación con SDE.
Recuperación exacta de comunidades en SBM con consultas limitadas
Descubre cómo las consultas adaptativas superan el límite de consultas uniformes para recuperar comunidades exactamente.
Beamforming Híbrido Robusto con GNN y CSI Generativo y Denoising
Descubre cómo las GNN y modelos generativos basados en puntuaciones mejoran el beamforming híbrido al generar y limpiar CSI, logrando mayor robustez en comunicaciones inalámbricas.
Efecto del ruido en la generación de lenguaje en el límite
Un solo string ruidoso afecta la generación de lenguaje en IA. Nuevo estudio caracteriza el efecto del ruido en la generación en el límite.
Relación señal-ruido no uniforme en REINFORCE
Descubre cómo la relación señal-ruido no uniforme en el estimador REINFORCE causa inestabilidad y colapso durante el entrenamiento en RL.
La firma entrópica de la especiación en modelos de difusión
Descubre cómo la entropía condicional de clases revela los momentos clave donde los modelos de difusión forman estructuras semánticas. Un nuevo enfoque para control temporal.
Detección neural óptima de bordes en imágenes ruidosas
Descubre cómo un nuevo enfoque basado en redes neuronales detecta bordes en imágenes ruidosas sin necesidad de etiquetas, alcanzando tasas óptimas.
Más allá de lo discreto: complejidad muestral del STE en cuantización 1-bit
Primer análisis teórico de complejidad muestral del Straight-Through Estimator para cuantización 1-bit. Descubre por qué el tamaño de muestra es clave para su éxito.