Patcher: Reparación post-hoc de modelos de lenguaje con puertas traseras
Descubre cómo Patcher repara modelos de lenguaje con puertas traseras usando solo un fallo reportado. Defensa práctica contra ataques de entrenamiento.
#defensa
«Debes darme crédito»: Ataques de inyección en calificación con LLM
Protege tu sistema de calificación: conoce los ataques de inyección de instrucciones en LLM y cómo mitigarlos.
De diagnóstico interno a auditoría externa: defensa contra backdoors con VLM
Conoce PRISM, un marco basado en VLMs que cambia el diagnóstico interno por auditoría externa para neutralizar backdoors con tasa de éxito menor al 1%.
Entre la espada y la pared: tensión entre ética y seguridad en LLMs
Los dilemas éticos pueden ser un arma contra los LLMs. Descubre el ataque TRIAL y la defensa ERR que los protege.
Un marco Bayesiano unificador para la robustez adversarial
Aprende cómo un marco Bayesiano unificador permite defensas proactivas y reactivas contra ataques adversariales, mejorando la seguridad de la IA.
Más allá de la brecha: seguridad nativa en IA redefine defensa empresarial
Descubre cómo la seguridad nativa en IA y la hiper-segmentación están redefiniendo la defensa empresarial, superando el enfoque de asumir la brecha.
La intersección del cifrado y la IA
Bruce Schneier analiza las limitaciones del cifrado ante amenazas modernas y el rol creciente de la IA en ciberseguridad. Descubre cómo afecta a defensores y atacantes.
Random Erasing vs. Model Inversion: ¿defensa real o falsa esperanza?
Descubre cómo Random Erasing puede ser una defensa efectiva contra ataques de Model Inversion, manteniendo la utilidad del modelo.
Safe-FedLLM: Análisis de Seguridad en Modelos de Lenguaje Federados
Descubre Safe-FedLLM: un sistema de defensa que detecta actualizaciones maliciosas de LoRA en FedLLM, protegiendo la seguridad sin afectar la velocidad.
Fragnesia y amigos: Vulnerabilidades de caché de página que regresan
Descubre cómo las vulnerabilidades Copy-Fail y DirtyDecrypt afectan el kernel y cómo OpenShift las mitiga con defensa en profundidad. Lectura imprescindible.
Cómo influir en la decisión de una IA sin tocarla
La información que un agente de IA lee antes de decidir puede sesgar sus decisiones. Pruebas revelan riesgos. Aprende defensas como datos balanceados y advertencias.
Combinación de ruido y filtro bilateral para robustez adversarial en CNN
Un preprocesador simple combina ruido gaussiano y filtro bilateral para lograr robustez adversarial supralineal en CNNs con bajo costo computacional.
Autoresearch descubre ataques adversariales avanzados para LLMs
Descubre cómo la IA logra encontrar nuevos métodos de ataque adversarial contra LLMs, superando defensas avanzadas con tasas de éxito del 80% y 100%.
AgentRedBench: Redteaming dinámico y defensas para agentes LLM en SaaS
AgentRedBench: benchmark dinámico que evalúa seguridad de agentes LLM en integraciones SaaS. AgentRedGuard reduce ataques exitosos del 69.9% al 2.4%.
Perturbaciones adversarias en aprendizaje continuo: defensa a alineación activa
Descubre cómo AdvCL reutiliza perturbaciones adversarias para estabilizar el aprendizaje continuo en LLMs, mejorando robustez y transferencia sin olvido.
Feeds adversariales dirigen a agentes LLM contra sus valores predeterminados
Los feeds adversariales desvían decisiones de agentes LLM de sus valores predeterminados. Estudio revela impacto en seguridad y defensas. ¡Descúbrelo!
Arquitectura 6G-LLM centrada en comunicación para vehículos tácticos autónomos
Descubre cómo una arquitectura 6G-LLM reduce la latencia un 75% y aumenta el éxito de misiones un 68% en redes de vehículos autónomos tácticos.
CEAR: Robustez Adversarial Certificada con Ensambles en DNNs
Descubre CEAR: mejora la robustez adversarial certificada en DNNs usando ensambles con ruido y votación. Superior en MNIST, CIFAR10 y TinyImageNet.
Orquestación de guardrails con cumplimiento en defensa de disputas de pago
Descubre el sistema de guardrail con scoring que logra 91% de cumplimiento en documentos de disputas de pago, reduciendo costos y latencia.
Ajuste fino justo mitiga ataques de inferencia de distribución
Ajuste fino justo reduce ataques de inferencia de distribución. Conoce el vínculo entre equidad y privacidad en modelos de IA.