EVA: Adversarios Semánticos Evolutivos para Ataques a Agentes GUI
EVA descubre que el engaño semántico es la clave en ataques a agentes GUI, logrando hasta 85% de éxito en pocas iteraciones. La alineación los hace vulnerables.
#adversarios
Agentes Adversarios: Ataques de Evasión con Aprendizaje por Refuerzo
Descubre cómo un agente de aprendizaje por refuerzo aprende a atacar modelos de IA con mayor eficacia, aumentando el éxito de ataques de evasión hasta un 13.2%.
Ataques adversarios en ASR más allá de la forma de onda
Nuevo ataque adversario en ASR evade defensas al perturbar representaciones SSL, mejorando la transferibilidad como en Whisper.
Mejorando la seguridad de las interfaces cerebro-computadora
Modelo ligero de CNN mejora la robustez de interfaces cerebro-computadora ante ataques adversarios. Asegura un despliegue confiable.
La Maldición de la Alineación: transferencia de texto potencia ataques de audio
La alineación entre texto y audio en modelos omni permite transferir ataques de jailbreak, aumentando riesgos de seguridad. Descubre cómo.
Arrepentimiento minimax-óptimo en juegos de Markov parcialmente observables
Algoritmo optimista logra arrepentimiento minimax-óptimo en POMG. Complejidad O(√T) con dependencia de la dimensión de Eluder.
Marco de Red Teaming para Seguridad, Robustez y Equidad en Modelos Médicos de IA
Un marco de red teaming multidominio revela fallos críticos en seguridad y equidad de modelos médicos de IA, ocultos por métricas promedio.
Agente en navegador de Anthropic: 31.5% de secuestro antes de salvaguardas
Descubre por qué el agente de Anthropic fue secuestrado el 31.5% del tiempo y cómo se comparan OpenAI, Google y Meta en seguridad de prompts.
Acordes Geométricos Latentes para Ataques Adversarios Eficientes
Descubre cómo los Acordes Geométricos Latentes (LGC) optimizan ataques adversarios con alta fidelidad visual y mínimas perturbaciones. SSIM > 0.99 y LPIPS < 0.01.
SAEmnesia: eliminación precisa de conceptos en modelos de difusión
Descubre SAEmnesia, un marco que elimina conceptos en modelos de difusión con precisión y eficiencia, reduciendo la búsqueda de hiperparámetros en un 96.67%.