Riesgo bajo presión: Robustez adversarial consciente del cómputo
Aprende cómo la evaluación basada en presión computacional (FLOPs) expone la verdadera robustez de los LLMs frente a ataques adversariales. Resultados sorprendentes.
#alineación de modelos
Colapso de alineación bajo cuantización de caché KV: diagnóstico y mitigación
Descubre cómo la cuantización de caché KV puede destruir la alineación de seguridad en LLMs y cómo PCR recupera hasta un 97% del daño en solo 35 minutos.
Análisis mecanicista de algoritmos de alineación en modelos de lenguaje
Descubrimos cómo seis algoritmos de alineación (PPO, DPO, SimPO, ORPO, GRPO, KTO) transforman internamente los modelos. Implicaciones para seguridad.
Defensas en entrenamiento contra desalineación emergente en LLMs
Descubre las defensas durante el entrenamiento contra la desalineación emergente en modelos de lenguaje. Estrategias prácticas para APIs de fine-tuning.
Defensas durante el entrenamiento contra desalineación emergente en LLMs
Descubre cómo proteger modelos de lenguaje contra desalineación emergente en fine-tuning. Analizamos técnicas de regularización para mantener la alineación.
Desafío del meta-agente: ¿Pueden los agentes actuales ser autónomos?
Descubre el Meta-Agent Challenge (MAC): un benchmark que prueba si los agentes de IA pueden auto-desarrollarse. Resultados sorprendentes y riesgos.
El entrenamiento de consistencia puede afianzar la desalineación
Un estudio revela que el entrenamiento por consistencia puede afianzar la desalineación en modelos de IA. Descubre sus efectos contradictorios en la alineación.
Similitud funcional con ensamblado consciente de invarianza
Descubre cómo la invarianza en el ensamblado de modelos revela discrepancias funcionales ocultas y mejora la evaluación de similitud en deep learning.
Optimización de políticas sin valor mediante partición de recompensas
Descubre RPO, un método que elimina la función de valor en optimización de preferencias. Más estable, diverso y con menos toxicidad que DRO y KTO. Ideal para alinear LLMs.
CSULoRA: Actualización Segura de Bajo Rango para Modelos de Lenguaje
CSULoRA corrige adaptadores LoRA para evitar que el fine-tuning adversarial dañe la seguridad de los LLMs, preservando la utilidad del modelo. Descubre cómo.