Optimización eficiente de hiperparámetros para RL en LLMs
Descubre cómo JF-HPO optimiza hiperparámetros en RL para LLMs, logrando hasta 14.9x más eficiencia y mejoras de rendimiento del 5.8% al 111.6%.
#hiperparámetros
Descifrando el Grokking en Regresión Ridge
Descubre cómo el grokking en regresión ridge demuestra que la generalización tardía no es un fallo de deep learning. Aprende a controlarlo con hiperparámetros.
c-TPE: Estimador Parzen con restricciones para hiperparámetros
Aprende cómo c-TPE optimiza hiperparámetros bajo restricciones de memoria y latencia, superando métodos tradicionales en problemas costosos.
Minimización adaptativa de nitidez con paso Polyak: planificador teórico
Descubre cómo el algoritmo SAM con paso Polyak mejora la generalización y reduce el ajuste de hiperparámetros, con garantías de convergencia teórica.
Límites de error para un estimador de deriva basado en modelos de difusión
Analizamos las cotas de error teóricas de un estimador de deriva basado en modelos de difusión, descomponiendo el riesgo en discretización, aproximación de score, inicialización y varianza.
ShaplEIG: Diseño Experimental Bayesiano para Estimar el Valor Shapley
Mejora la precisión al estimar valores Shapley con pocas evaluaciones. ShaplEIG usa diseño bayesiano para selección adaptativa de coaliciones. Ideal para costos.
Resolviendo ecuaciones diferenciales con deep learning: aspectos prácticos
Aprende a resolver ecuaciones diferenciales con deep learning: redes neuronales, retropropagación y método Deep Galerkin. Sin GPU.
VMDNet: Predicción de demanda eléctrica sin fuga temporal
Mejora la precisión en predicción de demanda eléctrica con VMDNet, evitando fuga temporal mediante descomposición variacional y TCN.
Entrenamiento basado en población iterado con reinicios sin tareas específicas
Descubre IPBT, un nuevo algoritmo que optimiza hiperparámetros automáticamente en redes neuronales sin aumentar el presupuesto. ¡Mejora tus modelos!
Redes Echo State en series temporales: ajuste de hiperparámetros y comparación
Descubre cómo las ESN se comparan con ARIMA y ETS en pronóstico de series temporales. Análisis de hiperparámetros y benchmark M4.
CRePE: Poda post-entrenamiento con importancia relativa convolucional
Descubre CRePE, método de poda post-entrenamiento para LLMs que reduce costos sin perder precisión, y PHO que acelera la búsqueda de hiperparámetros.
Cómo equilibrar tasas de aprendizaje entre capas en redes neuronales lineales
Descubre cómo equilibrar las tasas de aprendizaje entre capas en redes lineales mejora el rendimiento temprano. Resultados teóricos y experimentales.
Reescalado adaptativo monótono sin hiperparámetros para colas largas
Nuevo método SAMN elimina hiperparámetros en reescalado adaptativo monótono para colas largas. Resultados SOTA en benchmarks.
Repensando los paradigmas de evaluación en entrenamiento certificado IBP
Descubre cómo las fronteras de Pareto y la optimización automatizada revelan rendimientos superiores en entrenamiento certificado.
RAG no es Machine Learning: el toolkit de ML resuelve el problema equivocado
¿Crees que RAG es solo ML? Descubre por qué el toolkit clásico (hiperparámetros, splits, explicabilidad) falla y qué alternativas usar en inteligencia documental.
Algoritmo Evolutivo para Aprendizaje y Rendimiento de Reservorios
EARLY optimiza topología e hiperparámetros de redes reservorios con algoritmos evolutivos. Supera búsqueda aleatoria en tareas temporales. ¡Resultados!
Portafolios de Recuperadores: Enfoque Principiado para RAG Adaptativo
Descubre cómo los portafolios de recuperadores optimizan RAG: selección automática de múltiples recuperadores para mejorar precisión y reducir latencia en QA.
S3LDBO: Algoritmo de bucle único con instantáneas para optimización descentralizada
Descubre S3LDBO, algoritmo de optimización bilevel descentralizada que reduce cómputo con instantáneas, mejorando eficiencia en redes de IA.
Cómo decidir cuándo detener la optimización bayesiana
Descubre cómo la nueva regla de parada consciente del costo optimiza la optimización bayesiana, reduciendo evaluaciones innecesarias y mejorando el regret simple ajustado al costo.
Selección de hiperparámetros para el boosting de árboles
<meta name=description content=Aprende a seleccionar hiperparámetros clave en boosting de árboles para optimizar el rendimiento de tus modelos de machine learning. Guía práctica y concisa.>