VATS: Explotando autoridad implícita en inyección de errores mediante mutación
El framework VATS demuestra que los mensajes de error pueden ser explotados para inyectar comandos en agentes de IA, con hasta un 100% de éxito.
#ataques adversariales
Robustez adversarial del control de activación en LLMs
Los ataques adversariales reducen un 64% la robustez del control de activación en LLMs y colapsan la confianza. Descubre su fragilidad estructural.
SHIELD-IDS: Ensemble Heterogéneo con Defensa en Capas para IDS
Descubre SHIELD-IDS: el ensemble heterogéneo con defensa en capas que logra >99% de precisión en IDS frente a ataques adversariales.
Defendiendo contra el ajuste fino malicioso escalando ataques adversariales
Descubre cómo Patcher protege los modelos de lenguaje contra ataques de fine-tuning malicioso escalando ataques adversariales. Mejora la robustez de tus LLMs.
ARB4WM: Benchmark adversarial para modelos del mundo en control continuo
Evalúa la robustez adversarial de tus modelos del mundo con ARB4WM. Este benchmark unificado revela vulnerabilidades en control continuo y cómo defenderte.
Robustez adversarial en MRI sin necesidad de reentrenamiento
Descubre un método innovador que mitiga ataques adversariales en modelos de MRI sin reentrenar, superando técnicas convencionales. Ideal para imágenes médicas
Aprendiendo a Atacar y Defender: Red Teaming Adaptativo con GRPO
Descubre cómo AdvGRPO entrena atacantes y defensores de modelos de lenguaje con GRPO, mejorando la seguridad frente a ataques. Resultados sorprendentes.
Detección no paramétrica de texto IA con procesos gaussianos multivista
Descubre cómo los procesos gaussianos multivista detectan texto generado por IA con alta precisión, incluso frente a ataques adversariales.
Detección no paramétrica de texto IA con procesos Gaussianos multivista
Descubre este método no paramétrico que utiliza procesos Gaussianos multivista para detectar texto generado por IA incluso bajo ataques adversariales.
¿Quién paga el precio? Benchmarking de inyección de prompts para agentes web
Descubre cómo un benchmark centrado en stakeholders revela vulnerabilidades en agentes web impulsados por IA. ¿Quién paga el precio de la inyección de prompts?
Ataques Adversarios Multiobjetivo y Defensas Robustas para Resumen Continuo
Descubre cómo los ataques adversariales multiobjetivo comprometen la sumarización de datos y las defensas robustas para mantener la integridad en IA confiable.
Por qué el envenenamiento de corpus en RAG falla tras la recuperación
Descubre por qué los ataques de envenenamiento de corpus fallan en sistemas RAG reales con chunking y reranking. Conoce CRCP, un nuevo enfoque para ataques robustos. ¡Lee más!
Riesgo bajo presión: evaluación consciente del cómputo en robustez adversarial
Evalúa la robustez adversarial de LLMs con un enfoque en el costo computacional real. Curvas riesgo-cómputo y métricas clave.
Riesgo bajo presión: Robustez adversarial consciente del cómputo
Aprende cómo la evaluación basada en presión computacional (FLOPs) expone la verdadera robustez de los LLMs frente a ataques adversariales. Resultados sorprendentes.
Purificación Adversarial Acumulativa con Difusión en Modelos Multimodales
DiffCAP neutraliza ataques adversariales en modelos de visión-lenguaje. Descubre cómo mejora la seguridad.
Detección online de cambios y adaptación conforme en clasificadores de seguridad
Sistema online detecta cambios en clasificadores de seguridad con 86.6% de precisión. Adaptación conforme corrige errores. Descubre cómo mantener tus modelos IA seguros.
Dinámica de ataques adversariales en motores de búsqueda basados en LLM
¿Sabías que los ataques adversariales manipulan los resultados de búsqueda en LLM? Descubre el dilema del prisionero y cómo defenderte.
Optimización en dos etapas para eludir copyright en difusión
El método TS-LFO elude defensas de copyright en modelos de difusión con optimización latente en dos etapas, superando a DiffPure, GrIDPure e IMPRESS.
Manipulación en revisiones por pares con IA: nuevos riesgos
Un estudio revela que reescribir abstracts con IA aumenta las calificaciones en un 38%, amenazando la objetividad de las revisiones por pares.
Puerta trasera criptográfica para redes neuronales: bendición y maldición
Descubre cómo las puertas traseras criptográficas en redes neuronales permiten ataques invisibles y defensas robustas como watermarking y autenticación. Implementaciones post-cuánticas.