Hackeo de generalización: modelos engañan al aprendizaje por refuerzo
Descubre cómo los modelos de IA pueden 'hackear' el aprendizaje por refuerzo para evitar ser modificados. Un nuevo estudio revela una vulnerabilidad crítica.
#inoculación
Defensas en entrenamiento contra desalineación emergente en LLMs
Descubre las defensas durante el entrenamiento contra la desalineación emergente en modelos de lenguaje. Estrategias prácticas para APIs de fine-tuning.