Canal de Consulta: Límites Informacionales de Explicaciones por Enmascaramiento
Descubre los límites informacionales de las explicaciones por enmascaramiento en IA. Implicaciones para LIME y KernelSHAP.
#explicaciones
XtrAIn: Atribución de características mediante oclusión guiada por entrenamiento
XtrAIn reemplaza la oclusión por actualizaciones de parámetros, reduciendo sesgos y drift. Logra explicaciones más estables y limpias para modelos de IA.
Explicaciones basadas en lógica para la confianza en modelos ML
Descubre cómo las explicaciones lógicas garantizan un nivel mínimo de confianza en predicciones de ML, mejorando la transparencia en decisiones críticas.
Auditorías de fallos calibradas con señuelos para modelos de lenguaje
Janus audita fallos en modelos de lenguaje: calibra con señuelos y replica en datos nuevos para confirmar solo los errores genuinos. Descubre el método.
Aumann-SHAP: Geometría de interacciones contrafactuales en Machine Learning
Descubre Aumann-SHAP, un marco que descompone transiciones contrafactuales usando geometría de hipercubos. Corrige sesgos y mejora la interpretabilidad en ML.
De la puntuación a las explicaciones: Evaluando SHAP y LLM en evaluación docente
Descubre cómo SHAP y LLM explican las puntuaciones automáticas en evaluación docente. Análisis de fidelidad y transferibilidad en el marco CLASS.
Macro: Explicaciones contrafácticas multilingües mejoradas con DPO
Descubre Macro: optimización de preferencias para explicaciones contrafácticas multilingües más válidas y mínimas. Mejora la transparencia de los LLMs.
Pruebas metamórficas con Rashomon: fidelidad en explicaciones de ML
Evalúa la fidelidad de explicaciones en machine learning con pruebas metamórficas y el conjunto Rashomon. Sin etiquetas reales, selecciona modelos confiables.
Fundamentado pero engañoso: Evaluando alineación semántica en seguridad IA
¿Son confiables las explicaciones de seguridad IA? Descubre la ilusión de fundamentación y la importancia de la alineación semántica.
Explicaciones contrafactuales para pruebas de dos muestras profundas
Las explicaciones contrafactuales revelan qué características diferencian dos grupos en pruebas de hipótesis con deep learning. Un método basado en MMD y autoen
Comportamiento contrafactual: proximidad del límite y soporte local
Descubre cómo la proximidad al límite de decisión y el soporte local determinan la viabilidad de explicaciones contrafactuales en modelos de IA, incluso con igual precisión.
En ciencia, prioriza identificar estructuras, no modelos complejos
¿Modelos complejos o estructuras? En IA, prioriza la identificación de estructuras para descubrimiento científico. Entiende la subdeterminación.
Circuitos de consulta: cómo los modelos de lenguaje responden a preguntas
Descubre cómo los circuitos de consulta explican respuestas de modelos de lenguaje usando solo el 1.3% de sus conexiones. Explicaciones fieles y escalables para IA.
Video generado con conocimiento intensivo
Exploramos KIVI, un nuevo benchmark para evaluar la factualidad y utilidad de videos generados por IA. ¿Están listos los modelos actuales?
Explicaciones contrafácticas robustas guiadas por densidad
DensityFlow genera explicaciones contrafácticas robustas evitando zonas de baja densidad, garantizando validez bajo múltiples modelos y reduciendo costos.