¿Mentiste? Evaluando detectores de mentiras en modelos de lenguaje
¿Pueden los detectores de mentiras identificar cuándo un modelo de IA miente? Un estudio evalúa cuatro métodos en modelos de hasta 1B parámetros y revela sus limitaciones.
#sond
Detección de alucinaciones LLM con sondeo de criterios humanos
Descubre HCPD, un método innovador para detectar alucinaciones en LLM sin referencias externas, usando un sondeo de criterios similar al razonamiento humano. Explicable y preciso.
Del aislamiento al enredo: ¿Separación de conceptos en interpretabilidad?
Los métodos de interpretabilidad (SAEs, sondas) buscan separar conceptos, pero manipular características afecta múltiples conceptos, desafiando la independencia
Cuando los modelos de IA rolean, ¿creen lo que dicen?
¿Los LLM creen realmente sus afirmaciones al interpretar personajes? Un estudio revela diferencias entre roleplaying y desalineación emergente.
Runtime Skill Audit: Análisis en tiempo real de habilidades de agentes
Descubre cómo Runtime Skill Audit (RSA) audita habilidades de agentes LLM en tiempo real, detectando comportamientos maliciosos ocultos con un 90% de precisión.
ICA Lens: Interpretando modelos de lenguaje sin entrenar otro diccionario
Descubre cómo ICALens usa ICA para encontrar direcciones interpretables en LLMs sin entrenar diccionarios, superando a los SAEs en eficiencia y sondas.
Análisis mecanicista de algoritmos de alineación en modelos de lenguaje
Descubrimos cómo seis algoritmos de alineación (PPO, DPO, SimPO, ORPO, GRPO, KTO) transforman internamente los modelos. Implicaciones para seguridad.
Dentro del Flujo Latente: Dinámica de Atención en Separación de Audio
Descifra la dinámica de atención en modelos de audio con LSAC: acelera sin entrenamiento, manteniendo calidad.
Detección de alucinaciones en LLM y VLM con crestas de densidad
Descubre cómo el nuevo método de crestas de densidad supera en hasta 20 puntos AUROC a técnicas actuales en detección de alucinaciones con pocas etiquetas de calibración.
Moderación en streaming de LLMs con sondas de estado oculto
Las sondas de estado oculto permiten moderar LLMs en streaming sin costo adicional. Detén contenido inseguro token a token, reduce latencia y ahorra recursos. Guía práctica.
Ahora me ves: Detectando esteganografía evasiva en LLMs
Los LLMs pueden ocultar secretos mediante esteganografía. La detección con sondas lineales se evade, pero se restaura con recontextualización.
Aprendizaje de Modelos de Conducta con Preguntas y Sondas Adaptativas
Las preguntas adaptativas y sondas del modelo del mundo permiten entrenar agentes de IA que explican su comportamiento y se adaptan a cambios.
Tutorial NVIDIA garak: red-teaming defensivo para LLM con sondas y detectores
Aprende a usar NVIDIA garak para construir un flujo de red-teaming defensivo en LLM con sondas y detectores personalizados. Incluye código completo.
Localizando ambigüedad en prompts de LLM con atribución dirigida por sonda
Descubre cómo PRIG localiza la ambigüedad oculta en prompts de LLMs usando atribución por sonda, superando a GPT-5.4 en identificación de ambigüedad.
Localización de ambigüedad en prompts de LLMs con atribución por sonda
PRIG localiza ambigüedad en prompts de LLMs con atribución por sonda. Supera a GPT-5.4. ¡Mejora tus prompts ahora!
Latencia de autocompromiso: una sonda sin recompensa para el hacking implícito
Descubre cómo la latencia de autocompromiso revela hacking implícito en modelos de lenguaje sin recompensa externa. Un nuevo enfoque para seguridad en IA.
Latencia de Autocompromiso: Sonda sin Recompensa para Hackeo Implícito
Descubre cómo la latencia de autocompromiso detecta hackeo implícito sin modelos de recompensa. Una sonda para identificar atajos en el razonamiento de IA.
Echo-POSED: Autodestilación Geométrica para Guía en Ecocardiografía
Echo-POSED: framework auto-supervisado para guía en ecocardiografía en tiempo real. Recomienda ajustes de sonda desde imágenes 2D sin etiquetas. Error angular medio de 8.2°.
La forma de la suma: estructuras geométricas de la aritmética en LLMs
Descubre cómo los LLMs representan la suma geométricamente y por qué cometen errores. Un nuevo estudio revela la estructura oculta de la aritmética.
X-RAY: Mapeo del razonamiento en LLMs con sondas formales
Descubre cómo X-RAY mapea la capacidad de razonamiento de los LLMs usando sondas formales y calibradas, revelando asimetrías y fallos interpretables.