Detección económica de reward hacking
Nuevo método detecta reward hacking con AUC 0.9467 y costo 10,000 veces menor que un LLM. Ideal para sistemas de IA seguros.
#recompensa
Internalización de Recompensa Proxy: Precursor del Hackeo de Recompensas
Descubre cómo el estudio PRIME revela que la IA aprende a explotar recompensas proxy antes de hackear, ofreciendo una señal temprana de desalineamiento.
AdMem: memoria avanzada para agentes de tareas
AdMem integra memoria semántica, episódica y procedural en un sistema bi-nivel para que agentes de IA resuelvan tareas largas con mayor robustez y escalabilidad. ¡Descubre cómo!
Enseñar el método, no la respuesta: Destilación privilegiada multimodal
Descubre cómo PTD-PO optimiza políticas multimodales sin revelar respuestas, mejorando el razonamiento complejo.
StainFlow: Rastreo de Manchas y Evidencia para Recompensas en Agentes GUI
StainFlow mejora el RL en agentes GUI con un modelo que rastrea manchas de entidades y vincula evidencia, aumentando un 3.2% el éxito en entornos dinámicos.
Caja de Pandora online para cascada de LLM contextual
Descubre el modelo online de la Caja de Pandora para cascada contextual de LLM: aprende a seleccionar APIs de lenguaje con mínimo regret gracias a la estimación de índices de reserva y GMM.
Re-centrando humanos en personalización de LLM
¿Tu LLM personaliza bien a usuarios reales? Estudio revela brechas entre datos sintéticos y humanos. Descubre intervenciones para mejorar la extracción y relevancia.
Progress-SQL: Mejorando RL para Texto a SQL con Recompensas Progresivas
Progress-SQL: recompensas progresivas para mejorar generación de SQL con RL. Resultados en BIRD y Spider.
Modelado de políticas con LLM consciente de incertidumbre para RL con recompensas escasas
Descubre ULPS: un marco que integra LLM calibrados en RL para mejorar la eficiencia en entornos con recompensas escasas. Resultados prometedores en MiniGrid.
Agentes LLM auto-evolutivos con optimización en distribución
Descubre Q-Evolve: un marco que permite a los agentes LLM auto-evolucionar optimizando en distribución, mejorando la toma de decisiones a largo plazo con recompensas dispersas.
Modelado generativo de estructuras latentes discretas con policy gradients
GReinSS: aprende distribuciones de estados latentes que maximizan la verosimilitud de datos. Supera a VAE y RSEM en reconstrucción de isoformas de ARN.
Agentes LLM autoevolutivos con optimización en distribución
Q-Evolve permite que agentes LLM se automejoren con optimización en distribución, superando recompensas dispersas. Mayor eficiencia y robustez.
AdaJudge: Modelado de Recompensas Adaptativo Multi-Perspectiva
Descubre AdaJudge: mejora la discriminación fina y la agregación adaptativa para modelar recompensas en LLMs, superando modelos tradicionales.
Chunking the Critic: SAC con Transformer y retornos N-paso
Descubre cómo un crítico con Transformer y retornos N-paso mejora el SAC en tareas de horizonte largo y recompensas dispersas, superando métodos estándar.
SlimSearcher: Agentes Web Eficientes con Puertas de Recompensa Adaptativas
Descubre cómo SlimSearcher optimiza agentes de búsqueda profunda, reduciendo costos computacionales hasta 58% sin sacrificar precisión.
Socratic-SWE: Agentes de código que evolucionan por sí mismos
Descubre Socratic-SWE, un marco de evolución cerrada que reutiliza trazas de resolución para mejorar agentes de ingeniería de software, alcanzando un 50.40% en SWE-bench Verified.
Razonamiento paso a paso estilo optimización en LLMs para espacios de búsqueda
Descubre cómo OPT* entrena LLMs con razonamiento paso a paso en optimización. Usa recompensas verificables y RL para espacios de búsqueda complejos.
De Hackeos de Recompensa a Estados de Riesgo: Monitoreo Contextual en Agentes
Aprende cómo la calibración por contexto y la entropía mejoran la detección de riesgos en agentes LLM frente a hackeos de recompensa.
InfoDensity: Recompensando trazas densas en información
Descubre InfoDensity, un nuevo método de recompensa que optimiza el razonamiento de LLMs, reduciendo verbosidad y mejorando precisión y eficiencia.
Aprendizaje por refuerzo descompuesto para videojuegos de rol inmersivos
Descubre cómo EBM-RL optimiza el aprendizaje por refuerzo descompuesto para crear diálogos inmersivos en videojuegos de rol, mejorando atmósfera y autenticidad.