Preferencias de los LLM por bibliotecas y lenguajes de programación
Descubre cómo los grandes modelos de lenguaje muestran una fuerte preferencia por Python y NumPy, incluso cuando no son óptimos. Un estudio revela sesgos en la generación de código.
#sesgo
El mito del decodificado contrastivo contra alucinaciones en MLLMs
Descubre por qué el decodificado contrastivo no mitiga alucinaciones en MLLMs según nueva investigación. Las mejoras en POPE son engañosas. ¡Entra para más!
CLASH: Evaluación de modelos de lenguaje en dilemas de alto riesgo
Descubre CLASH, el benchmark que evalúa cómo los modelos de lenguaje enfrentan dilemas de alto riesgo con múltiples perspectivas. Resultados sorprendentes sobre el razonamiento moral de la IA.
La brecha de granularidad: auditoría longitudinal de la adulación en modelos Gemini
Nuevo estudio revela adulación oculta en Gemini: 27% de respuestas, regresión en Gen 2.5 y el costo de la complacencia.
Análisis sistemático de sesgos en modelos de lenguaje
Análisis de sesgos en cuatro LLMs: política, ideología, alianzas, lenguaje y género. La neutralidad aparente esconde inclinaciones.
Sesgo geográfico y diversidad en la evaluación de IA
Descubre cómo el sesgo geográfico afecta la evaluación de la IA y qué estrategias existen para garantizar diversidad y equidad en los modelos generativos.
Diversidad geográfica en representaciones de IA en imágenes
Descubre cómo la diversidad geográfica en imágenes de IA revela sesgos: modelos antiguos más diversos y riesgo de estereotipos.
OG-MAR: Alineamiento cultural de LLMs mediante ontología y multiagentes
OG-MAR alinea LLMs con valores culturales usando ontología y multiagentes. Mejora transparencia y precisión.
Contaminación en tiempo de búsqueda en agentes de investigación profunda
Descubre cómo la contaminación en búsqueda infla el rendimiento de agentes de IA en benchmarks. Aprende a detectarla y mitigarla.
Desfase fronterizo: auditoría de la tergiversación en evaluaciones de IA
Un estudio analiza 112,303 registros y revela que las evaluaciones académicas de IA están atrasadas hasta 1.4 generaciones de modelos. Descubre el 'publication elicitation gap'.
Convivir con la incertidumbre: estrategias para asesores morales IA
Descubre cómo las estrategias de incertidumbre en asesores morales IA mejoran la calidad del diálogo ético en conversaciones simuladas entre LLMs.
La elección fundamental en Reinforcement Learning: On-Policy vs Off-Policy
Descubre cómo la elección entre On-Policy y Off-Policy define la exploración, seguridad y eficiencia en el aprendizaje por refuerzo. Conoce las diferencias.
Envolventes deterministas para SGLD domesticado: reduciendo sesgo
Descubre cómo las envolventes deterministas corrigen el sesgo en SGLD domesticado, mejorando la estabilidad sin distorsionar el gradiente.
Inestabilidad en la moderación de contenido con mezcla de idiomas
La mezcla de idiomas (Tamil-inglés) desestabiliza la moderación de IA: duplica falsos positivos y carga de revisión. Revela fallos ocultos en clasificación.
Partición causal preregistrada de elicitación y diseño de recompensas en RLVR
Investigación revela que el estimador ingenuo en RLVR mezcla elicitación y diseño de recompensas. Un nuevo método de partición causal permite auditar resultados.
Máscaras que distraen: comprensión contextual en modelos de difusión
Los MDLM tienen dos grandes problemas: sesgo local y distracción por máscaras. Descubre cómo un nuevo método de ajuste mejora la comprensión contextual.
GIPO: Optimización de Políticas con Muestreo por Importancia Gaussiano
GIPO: optimización de políticas con muestreo por importancia truncado y pesos gaussianos logrando eficiencia y estabilidad superiores en RL post-entrenamiento.
¿Es la diversidad clave para la manipulación robótica escalable?
Investigación revela que la diversidad de tareas es más crítica que la cantidad de demostraciones. Aprende a escalar datos robóticos eficazmente.
La inestabilidad relativa de la comparación de modelos con validación cruzada
La validación cruzada puede fallar al comparar modelos incluso estables como Lasso. Aprende por qué esta inestabilidad relativa invalida las inferencias.
2-Step Agent: Marco para la interacción decisor-IA
El marco 2-Step Agent muestra que incluso con modelos perfectos, las creencias erróneas pueden hacer que el soporte de IA empeore las decisiones. ¿Cómo evitarlo?