¿Cuándo los modelos autoregresivos pronostican campos de onda físicos?
¿Sabes cuándo falla el pronóstico autoregresivo de ondas sísmicas? Este estudio controlado identifica los factores clave y el próximo desafío: la fase.
#modelos secuenciales
El sesgo de inducción en modelos secuenciales
Investigación muestra que los transformers requieren más datos que las RNN para seguimiento de estado y no comparten pesos entre longitudes. Descubre las diferencias clave.
Datos sintéticos de calidad permiten primeras leyes de escalado para LLMs en recomendación
Descubre cómo datos sintéticos de calidad permiten las primeras leyes de escalado para LLMs en recomendación, superando datos reales.
La estructura de la tarea invierte la codificación de estado por capas en modelos secuenciales
Descubre cómo la estructura de la tarea invierte la codificación de estado en modelos como Transformers y Mamba. Un estudio revela patrones opuestos en paridad y Dyck.