Estudio de dinámicas de entrenamiento en modelo Llama pequeño
Descubre cómo las trayectorias de entrenamiento revelan inestabilidad y rendimientos decrecientes en modelos pequeños bajo presupuesto de tokens.
#inestabilidad
Modos de fallo del RL multiagente en precios asíncronos: diagnóstico y solución parcial
Estudio de fallos en RL multiagente para precios asíncronos: la asincronía reduce colusión un 48% y análisis de trazas. Solución parcial.
Marginalización de fase en Vision Transformers: inestabilidad de cuadrícula
Mejora la segmentación y profundidad con marginalización de fase en Vision Transformers. Sin entrenamiento, más precisión.
Reformulación de Operadores Neuronales para Evolución de Embeddings en d+1
Reformulación de operadores neuronales en d+1 para mejorar la evolución de embeddings. Menor error en benchmarks como calor y Rayleigh-Taylor.
Operadores neuronales en d+1 dimensiones para evolución de embeddings
Descubre cómo una dimensión auxiliar en operadores neuronales mejora precisión en benchmarks de dinámica, logrando menor error L2 y generalización zero-shot.
La inestabilidad relativa de la comparación de modelos con validación cruzada
La validación cruzada puede fallar al comparar modelos incluso estables como Lasso. Aprende por qué esta inestabilidad relativa invalida las inferencias.
Inclusion-of-Thoughts: Mitigando la inestabilidad de preferencias en LLMs
Inclusion-of-Thoughts (IoT) estabiliza respuestas de LLMs en opción múltiple filtrando distractores, mejorando razonamiento e interpretabilidad con mínimo coste.
Link Prediction o Perdición: Semillas de Inestabilidad en Embeddings
Los modelos de embedding de grafos son fiables? Este estudio revela inestabilidad en predicciones debido a semillas aleatorias. Conoce las limitaciones del MRR.
Predicción de enlaces o perdición: inestabilidad en embeddings de grafos
Los modelos de embedding (KGEM) generan predicciones inestables en grafos de conocimiento. Las semillas aleatorias y la configuración afectan la fiabilidad. ¿Cómo solucionarlo?
Inestabilidad en la dirección de puntuación en detección de anomalías
La detección de anomalías con división de clases puede ser inestable. Un nuevo método sin entrenamiento (fuga de vecindad) predice la inestabilidad. Descubre cómo afecta a modelos en CIFAR-10 y más.
ReasonBENCH: La inestabilidad del razonamiento en LLMs
ReasonBENCH revela: la inestabilidad en el razonamiento de LLMs no es ruido, es estructura. Un solo test puede engañar. ¡Evalúa con distribuciones!
Análisis de estabilidad de Sharpness-Aware Minimization
Descubre cómo el algoritmo SAM puede quedarse atrapado en puntos de silla y cómo el momentum y el tamaño de lote ayudan a mejorar su estabilidad y generalización.
Relación señal-ruido no uniforme en REINFORCE
Descubre cómo la relación señal-ruido no uniforme en el estimador REINFORCE causa inestabilidad y colapso durante el entrenamiento en RL.
Transferencia emergente de modelo base de física a turbulencia de laboratorio
Descubre cómo un modelo base de física entrenado solo en simulaciones predice turbulencia de laboratorio, cerrando la brecha simulación-experimento.
Cohetes que explotan y precios de hardware que se disparan conforman una pésima nueva normalidad
<meta name=description content=Explosión de cohetes y precios descontrolados marcan la nueva normalidad. Analizamos las causas y consecuencias de esta crisis actual.>