Brecha de contención: Cómo fallan los marcos de IA agente en seguridad pública
Descubre cómo frameworks de IA agente fallan en seguridad: envenenamiento de memoria eleva denegaciones injustas. Conoce soluciones.
#envenenamiento
SMSR: Defensa certificada contra envenenamiento de memoria en LLM persistentes
Descubre cómo SMSR, la primera defensa certificada, protege agentes LLM contra envenenamiento de memoria persistente. Reduce ataques del 93% al 0%.
Por qué el envenenamiento de corpus en RAG falla tras la recuperación
Descubre por qué los ataques de envenenamiento de corpus fallan en sistemas RAG reales con chunking y reranking. Conoce CRCP, un nuevo enfoque para ataques robustos. ¡Lee más!
ProGRank: defensa contra el envenenamiento de corpus en RAG
ProGRank defiende tu RAG del envenenamiento de corpus sin reentrenar, usando gradientes y reordenamiento ligero. Mejora robustez sin perder utilidad.
ProGRank: defensa de RAG contra envenenamiento de corpus
Descubre cómo ProGRank, un método de reordenamiento por gradientes, protege sistemas RAG contra el envenenamiento de corpus sin reentrenamiento.
MemVenom: Envenenamiento Activado de Memorias Multimodales en Agentes Web
Conoce MemVenom: el ataque que envenena la memoria de los agentes web y amenaza la seguridad de la IA multimodal. ¡Descubre cómo protegerse!
AT-DPT: Aprendizaje por refuerzo robusto en contexto contra envenenamiento
Descubre cómo AT-DPT mejora la robustez del aprendizaje por refuerzo en contexto frente a ataques de envenenamiento de recompensas. Resultados sorprendentes.
Robustez certificada contra envenenamiento datos en entrenamiento con gradientes
Descubre cómo certificar la robustez de modelos de IA contra envenenamiento de datos. Garantías formales para entrenamiento con gradientes.
GITCO: Optimización de Contexto en Inferencia para TSFMs
Descubre cómo GITCO optimiza el contexto en inferencia y mejora un 1.95% la precisión de modelos fundacionales sin actualizar parámetros.
GITCO: Optimización de Contexto en Inferencia en TSFMs
GITCO mejora la precisión de modelos base de series temporales en tiempo de inferencia al suprimir parches anómalos, sin modificar pesos. Reduce el error MASE un 1.95% en 53 datasets.
Seguridad y Privacidad en RAG: Amenazas y Superficie de Ataque
Descubre el primer modelo formal de amenazas para RAG. Riesgos de privacidad, inferencia de membresía y envenenamiento de datos en IA.
Vectores de dirección: una superficie de ataque adversarial
Descubre cómo un ataque de envenenamiento sigiloso en vectores de dirección puede burlar la seguridad de LLMs. Aprende sobre la defensa ortogonalización.
Envenenamiento Secuencial de Datos en el Post-Entrenamiento de LLMs
Múltiples atacantes pueden envenenar datos en distintas etapas del post-entrenamiento de LLMs, revelando vulnerabilidades ocultas.
Phantom Transfer: envenenamiento de datos sobrevive a defensas
Descubre cómo Phantom Transfer envenena datos y evade todas las defensas conocidas. Aprende por qué fallan las defensas actuales.
Ataques de costo de inferencia en LLMs con RAG
Los ataques RA-ICA multiplican hasta 13 veces el consumo de tokens en LLM con RAG sin afectar la respuesta. Aprende cómo funciona esta vulnerabilidad y cómo mitigarla.
Seguridad en agentes de IA: guía práctica para desarrolladores
El 45% de las empresas lucha por asegurar sus agentes de IA. Aprende a implementar las 4 capas de seguridad críticas: aislamiento, control, identidad y monitoreo.
CANARY: Detección de contaminación oculta en modelos de lenguaje
Descubre CANARY, el primer método que detecta contaminación oculta en modelos de lenguaje con solo dos pases, incluso al 1% de envenenamiento. Protege tu IA.
DiscourseFlip: Manipulación indirecta de opinión en RAG
DiscourseFlip: un ataque de manipulación de opinión a nivel de discurso en RAG que evade defensas actuales. Conoce sus implicaciones.
Mental Damage: envenenamiento de subtítulos en música con IA
Descubre cómo los atacantes pueden envenenar bases de datos musicales con subtítulos maliciosos para alterar la generación de música por IA, comprometiendo la integridad del sistema.