Optimización eficiente de hiperparámetros para RL en LLMs
Descubre cómo JF-HPO optimiza hiperparámetros en RL para LLMs, logrando hasta 14.9x más eficiencia y mejoras de rendimiento del 5.8% al 111.6%.
#parámetro
FLIPS: Huellas de instancias para LLMs mediante secuencias pseudoaleatorias
Descubre FLIPS, un método que identifica configuraciones de LLMs con un 96% de precisión, clave para la regulación de IA.
Descifrando el Grokking en Regresión Ridge
Descubre cómo el grokking en regresión ridge demuestra que la generalización tardía no es un fallo de deep learning. Aprende a controlarlo con hiperparámetros.
Adaptadores Kronecker: la importancia del diseño de componentes
Optimiza el ajuste fino de modelos grandes con adaptadores Kronecker. Conoce CDKA, una nueva técnica que mejora la capacidad y eficiencia mediante el diseño estratégico de componentes.
Arrepentimiento dinámico sin parámetros: costos de movimiento variables
Aprende sobre nuevo algoritmo que logra arrepentimiento dinámico adaptativo sin parámetros para optimización convexa online con costos de movimiento variables.
Gradientes estocásticos bajo parámetros nuisance
Cómo los gradientes estocásticos convergen con parámetros nuisance. Ortogonalidad de Neyman y actualizaciones ortogonalizadas para optimización robusta.
Benchmark de inferencia sin verosimilitud: redes neuronales y transporte óptimo
¿Cuál es el mejor método de inferencia sin verosimilitud? Comparamos redes neuronales y transporte óptimo en datos extremos y discretos.
c-TPE: Estimador Parzen con restricciones para hiperparámetros
Aprende cómo c-TPE optimiza hiperparámetros bajo restricciones de memoria y latencia, superando métodos tradicionales en problemas costosos.
Estimador Parzen de Estructura Arbórea: Componentes Clave
Descubre los componentes del TPE y su impacto en la optimización de hiperparámetros. Aprende configuraciones recomendadas para mejor rendimiento empírico.
Predicción Conformal Online sin Parámetros y Condicional por Grupos
Nuevo método de predicción conformal online sin parámetros para cobertura justa por grupos en entornos cambiantes. ¡Mejora la fiabilidad de tus modelos!
Prototipado de audio de calidad: recuperación y generación unificadas
Descubre QuAP, un prototipo que unifica búsqueda de sonido y generación procedural. Un estudio con 16 profesionales confirma su utilidad para el diseño de audio.
Hacia una fiabilidad ligera: uso de soft prompts para mitigar alucinaciones en LLMs
Mitiga alucinaciones en LLMs con soft prompts: un método ligero que mejora la precisión y fomenta la abstención responsable. Ideal para aplicaciones críticas.
ML para homogeneizar materiales hiperelásticos con microestructuras booleanas
Descubre cómo una red neuronal predice parámetros de Lamé en materiales hiperelásticos con microestructuras booleanas. Modelo sustituto eficaz.
Descifrando el razonamiento latente: intervención guiada por interpretabilidad
Descubre cómo intervenir en el razonamiento latente de los LLM para mejorar su precisión sin actualizar parámetros. Guía basada en interpretabilidad.
Minimización adaptativa de nitidez con paso Polyak: planificador teórico
Descubre cómo el algoritmo SAM con paso Polyak mejora la generalización y reduce el ajuste de hiperparámetros, con garantías de convergencia teórica.
Límites de error para un estimador de deriva basado en modelos de difusión
Analizamos las cotas de error teóricas de un estimador de deriva basado en modelos de difusión, descomponiendo el riesgo en discretización, aproximación de score, inicialización y varianza.
ShaplEIG: Diseño Experimental Bayesiano para Estimar el Valor Shapley
Mejora la precisión al estimar valores Shapley con pocas evaluaciones. ShaplEIG usa diseño bayesiano para selección adaptativa de coaliciones. Ideal para costos.
Arquitectura dualencoder con fusión Choquet en clasificación acústica submarina
Descubre cómo la nueva arquitectura dual-encoder con fusión Choquet mejora la clasificación acústica submarina, ofreciendo precisión e interpretabilidad.
Ajuste fino sin olvidar el aprendizaje en contexto: modelos de atención lineal
Descubre cómo afinar modelos de atención lineal sin perder el aprendizaje en contexto. Consejos teóricos para mejorar el rendimiento zero-shot.
Resolviendo ecuaciones diferenciales con deep learning: aspectos prácticos
Aprende a resolver ecuaciones diferenciales con deep learning: redes neuronales, retropropagación y método Deep Galerkin. Sin GPU.