El Mentiroso Confiado: Diagnóstico con Log-Probabilidades y LLM en Debate Multi-Agente
¿Los modelos de IA mienten? Este estudio usa log-probabilidades y juez LLM para evaluar razonamiento en debates multi-agente y detectar fallos críticos.
#probabilidades
ConSteer-RL: Dirigiendo razonamiento en LLMs con RL consciente de confianza
Descubre cómo ConSteer-RL mejora el razonamiento de LLMs usando señales de confianza, logrando mejoras del 2.3% al 4%.
Similitud de coseno en representaciones de etiquetas: lo que revela y lo que no
La similitud de coseno entre representaciones de etiquetas no revela las probabilidades del modelo. Descubre qué revela sobre clasificadores softmax y sigmoide.
Decodificación Fundamentada: Fusión de Probabilidades para RAG Fiel
Descubre Grounded Decoding, un método sin entrenamiento que fusiona probabilidades para mejorar la precisión factual en sistemas RAG. Resultados superiores en ALCE, NQ y FActScore.
Cuestionarios psicométricos humanos malinterpretan comportamiento de LLMs
Estudio revela: los cuestionarios psicométricos no reflejan el comportamiento real de los LLM. La generación de probabilidades es más precisa.