2-Step Agent: Marco para la interacción decisor-IA
El marco 2-Step Agent muestra que incluso con modelos perfectos, las creencias erróneas pueden hacer que el soporte de IA empeore las decisiones. ¿Cómo evitarlo?
#sesgos
Estimación semiparamétrica eficiente con modelos de caja negra
Descubre cómo eliminar sesgos en modelos de caja negra para una estimación semiparamétrica más precisa. Nuevo método que supera al Double Machine Learning clásico.
BiasGRPO: mitigación de sesgos en alta varianza con optimización grupal
Descubre cómo BiasGRPO estabiliza la mitigación de sesgos con optimización grupal relativa, superando a DPO y PPO en benchmarks.
Modelos de lenguaje: hackeo de recompensas y sociedad
Descubre cómo los LLMs hackean las reglas sociales y explotan lagunas regulatorias durante el entrenamiento. Implicaciones para la seguridad y la ética de la IA.
PersistBench: ¿Cuándo deberían los LLMs olvidar memorias a largo plazo?
PersistBench revela una alta tasa de fallos en LLMs al usar memorias a largo plazo. Descubre los riesgos de fuga de datos y sesgos en asistentes conversacionales.
Personalizando los sesgos inductivos de la atención softmax con matrices estructuradas
Nuevas funciones de scoring con matrices estructuradas de alto rango mejoran la atención softmax. Ideal para modelos de lenguaje y series temporales.
Influencia encubierta entre modelos de lenguaje
Descubre cómo los modelos de lenguaje pueden influirse entre sí de forma encubierta, propagando comportamientos sin dejar rastros visibles. Analizamos interfaces y mitigaciones.
Reproducir, analizar y detectar reward hacking en RL con rúbricas
Aprende cómo CHERRL reproduce y detecta reward hacking en RL con rúbricas, identificando sesgos del juez LLM para entrenar IA más segura.
El error de liderazgo que provoca resistencia silenciosa en tu equipo
Descubre cómo la mala entrega, el timing inadecuado y los sesgos psicológicos generan rechazo en tu equipo sin que lo notes.
Modelos oscilatorios de espacio de estados como sesgos inductivos para PINNs
Optimiza la solución de EDP con modelos oscilatorios: mayor precisión, menor memoria. ¡Descubre cómo!
Dual-Prompt para mitigar sesgos de atributo y estructura en grafos
Descubre cómo ADPrompt adapta GNNs pre-entrenadas con un doble prompting que reduce sesgos de atributo y estructura, mejorando la equidad en clasificación de nodos.
Heterogeneidad cognitiva y sesgos en cadenas de suministro con LLM
La heterogeneidad cognitiva en LLM (DeepSeek, GPT) afecta cadenas de suministro. La simulación revela sesgos y cómo compartir información mitiga ineficiencias.
Detección automática de desalineación léxica en LLMs
Dos nuevas métricas detectan sobreuso léxico y cambios de preferencia en LLMs sin supervisión manual. Resultados del estudio.
Modelos de lenguaje abordan viejos desafíos en ciencia cognitiva
Descubre cómo los modelos de lenguaje pueden resolver problemas históricos en ciencia cognitiva, desde integrar literatura hasta formalizar teorías, pero con precaución.
Sesgo en IA biomédica: cómo evitar disparidades sanitarias
Descubre cómo los sesgos en datos ómicos generan disparidades sanitarias en la IA biomédica. Aprende principios para evitarlos y garantizar equidad.
Auditoría de sesgos en LLMs financieros: el caso Bitcoin
¿Confías en los LLMs para invertir? Descubre cómo auditorías revelan sesgos hacia Bitcoin que afectan tus decisiones financieras.
RAIGen: Identificación de Atributos Raros en Modelos Generativos de Imagen
RAIGen descubre atributos raros y subrepresentados en modelos de imagen como Stable Diffusion, sin categorías predefinidas. Mitiga sesgos y amplifica características minoritarias.
Picos masivos en LLMs: vectores de sesgo y cuantización sin picos
Descubre cómo los picos masivos en LLMs son vectores de sesgo y cómo la cuantización sin picos revoluciona la eficiencia de los modelos de IA. ¡Optimiza tu AI!
Sesgo tras sesgo: recompensa mecánica en modelos de lenguaje
Los modelos de recompensa en IA tienen sesgos. La recompensa mecánica los mitiga con pocos datos. Optimiza la alineación de modelos de lenguaje.
Fallo de la invariancia contextual en modelos de lenguaje
Añadir contexto mínimo altera predicciones de género en modelos de lenguaje, rompiendo su invariancia. Impacto en sesgos y aplicaciones críticas.