GuardNet: Redes superficiales contra inyección de prompts y jailbreak
GuardNet combina redes neuronales superficiales para detectar ataques a LLMs. Logra AUROC 0.747 en benchmark ciego con solo 50ms de latencia. Ideal para producción.
#jailbreak
Paradoja de seguridad: mayor conciencia, mayor vulnerabilidad en LLMs
Descubre cómo los LLM con mejor conciencia de seguridad son más vulnerables al ataque Posterior. La paradoja de la seguridad en IA.
Cómo obtener actualizaciones de ubicación en segundo plano cada n minutos en iOS
Aprende a forzar actualizaciones de ubicación en segundo plano cada n minutos en tu app iOS sin jailbreak. Guía paso a paso con código.
SlotGCG: Explotando vulnerabilidades posicionales en LLMs
SlotGCG explota vulnerabilidades posicionales en prompts para jailbreak. Logra un 14% más de éxito que GCG, con solo 200ms de preprocesamiento. Descubre cómo.
SlotGCG: explotando vulnerabilidad posicional en LLMs para ataques
SlotGCG mejora ataques jailbreak en LLMs explotando vulnerabilidades posicionales. Logra un 14% más de éxito y 42% más robustez frente a defensas.
Vectores de dirección: una superficie de ataque adversarial
Descubre cómo un ataque de envenenamiento sigiloso en vectores de dirección puede burlar la seguridad de LLMs. Aprende sobre la defensa ortogonalización.
MaskForge: Ataques Adaptativos con Estructura para Jailbreak de LLMs de Difusión
Aprende cómo MaskForge, un ataque adaptativo de caja negra, alcanza un 79.3% de éxito en jailbreak de dLLMs mediante patrones estructurales dinámicos.
MENTOR: Marco de autoevolución para mitigar riesgos implícitos en LLMs
Descubre MENTOR, un framework de metacognición que reduce los ataques de jailbreak en LLMs hasta un 57.8%. Mejora la seguridad de tus modelos de IA.
MENTOR: Marco de autoevolución para mitigar riesgos implícitos en LLMs
Descubre cómo MENTOR reduce la vulnerabilidad de los LLMs ante riesgos implícitos en educación, finanzas y gestión.
MultiTurnPSB: Seguridad en IA médica ante ataques multi-turno
Los chatbots médicos fallan hasta en un 80% ante ataques multi-turno. Descubre cómo MultiTurnPSB revela vulnerabilidades y las defensas con clasificadores.
Inicializaciones de ataques jailbreak como extractores de cumplimiento
Descubre cómo las inicializaciones de ataques jailbreak extraen direcciones de cumplimiento en LLMs seguros, aumentando la tasa de éxito y reduciendo costos computacionales.
NeuroArmor: defensa selectiva contra jailbreaks en LLMs
Descubre NeuroArmor: reduce ataques jailbreak a 1.57% con bajos falsos positivos en LLMs. Protege tu modelo sin sacrificar utilidad.
Ataques de caja negra, adaptativos y eficientes para romper LLMs
Nuevo ataque IHO vulnera LLMs incluso con defensas avanzadas. Evalúa robustez adversarial de forma eficiente y transferible. ¡Descúbrelo!
Gate AI: Metodología y resultados de evaluación de seguridad en LLM
Descubre la metodología rigurosa de Gate AI para evaluar detectores de inyección y jailbreaks en LLM con umbral único y 16 benchmarks. Resultados sin sesgos.
D-Judge: Desbaratando jailbreaks multi-turno con reescritura semántica
D-Judge reescribe respuestas preservando semántica para desviar ataques multi-turno, reduciendo el éxito de jailbreaks en LLMs.
Cobertura OWASP LLM Top 10: atribución de defensas y fragilidad
Descubre qué defensa bloquea cada amenaza OWASP LLM: filtros de rechazo caen hasta 25% ante paráfrasis, controles resisten. Estudio de atribución y fragilidad.
Patcher: Reparación post-hoc de modelos de lenguaje con puertas traseras
Descubre cómo Patcher repara modelos de lenguaje con puertas traseras usando solo un fallo reportado. Defensa práctica contra ataques de entrenamiento.
VERA: Marco de inferencia variacional para jailbreaking de LLMs
Descubre VERA, un framework de inferencia variacional que genera prompts adversariales para identificar vulnerabilidades en LLMs sin reoptimización.
La Maldición de la Alineación: transferencia de texto potencia ataques de audio
La alineación entre texto y audio en modelos omni permite transferir ataques de jailbreak, aumentando riesgos de seguridad. Descubre cómo.
Autoresearch descubre ataques adversariales avanzados para LLMs
Descubre cómo la IA logra encontrar nuevos métodos de ataque adversarial contra LLMs, superando defensas avanzadas con tasas de éxito del 80% y 100%.