COMPASS: Alineación con MCTS para Agentes de Búsqueda Seguros
COMPASS es un nuevo marco de alineación con MCTS que asegura agentes de búsqueda sin perder utilidad, usando menos datos.
#alineación
Personas sintéticas para evaluar la alineación pluralista en IA
Las personas sintéticas permiten evaluar la alineación pluralista en IA generativa, superando benchmarks únicos y revelando la necesidad de mecanismos dinámicos.
Aprendizaje espectral consciente del resultado para regresión IV
Descubre cómo el aprendizaje espectral consciente del resultado mejora la regresión IV incluso con desalineación espectral.
IsoCLIP: Descomponiendo Proyectores CLIP para Alineación Intra-modal Eficiente
IsoCLIP mejora la alineación intra-modal en CLIP sin reentrenar, reduciendo latencia y superando métodos existentes en recuperación y clasificación.
REAL: Resuelve conflictos en VQA con pivote de razonamiento
Descubre cómo REAL resuelve conflictos de conocimiento en preguntas visuales con pivotes de razonamiento, mejorando la precisión en VQA intensiva.
Moderación eficiente de LLMs con prototipos latentes multicapa
MLPM, moderador ligero basado en prototipos latentes multicapa, mejora la seguridad de LLMs sin sacrificar eficiencia. Ideal para despliegues personalizados.
Optimización de políticas sin valor mediante partición de recompensas
Descubre RPO, un método que elimina la función de valor en optimización de preferencias. Más estable, diverso y con menos toxicidad que DRO y KTO. Ideal para alinear LLMs.
T-POP: Personalización en tiempo real con preferencias en línea
Descubre T-POP, personalización rápida de LLMs sin reentrenamiento usando preferencias en línea y bandidos duelistas.
Catch-Only-One: ejemplos no transferibles para autorización de modelos
Descubre cómo los ejemplos no transferibles recodifican datos para que solo el modelo autorizado los interprete, evitando el uso indebido por modelos no autoriz
Cuantificando valores geoculturales para seguridad pluralista en IA
Conoce cómo los valores culturales impactan la seguridad de la IA. Un estudio revela que el 10% de datos pueden ser mal clasificados sin representación cultural.
Ataques adversariales entre generaciones de LLMs: seguridad no monotónica
Descubre cómo los ataques adversariales entre generaciones de LLMs Gemma revelan que la seguridad no mejora de forma constante. Gemma 3 es más vulnerable que Gemma 2 y 4.
Alineación de características determina estrategia de fusión multimodal
La alineación de características, no el tamaño de datos, determina la fusión: cross-attention vs concatenación. Estudio con CLIP y ResNet.
CDOT: Transporte Óptimo Convexo de Distancias
Descubre CDOT, un marco convexo de transporte óptimo que alinea distribuciones heterogéneas preservando geometría. Mejora robustez y precisión.
Design-MLLM: IA para Diseño de Interiores Verificable y Estético
Descubre Design-MLLM, un marco de IA que optimiza el diseño de interiores garantizando viabilidad espacial y estética. Alineación por refuerzo para resultados ejecutables.
Seguridad en LLMs caja negra: Alineación mediante optimización restringida
Alinea LLMs de caja negra en inferencia usando optimización restringida y teoría de juegos para balancear seguridad y utilidad.
FIRM: Alineación multiobjetivo regularizada en cliente federada
FIRM alinea LLMs con múltiples objetivos eficientemente y en privado usando aprendizaje federado. Mejora equilibrio entre utilidad e inocuidad.
La interpretabilidad en modelos de series temporales profundos exige alineación semántica
Descubre cómo la alineación semántica revoluciona la interpretabilidad en modelos de series temporales profundos, mejorando la confianza y la toma de decisiones.
Alineación controlable de valores en LLMs mediante edición a nivel neuronal
Descubre cómo NeVA alinea valores en LLMs con edición neuronal, evitando fugas indeseadas. Control fino sin reentrenamiento.
MASCOT: Sistemas Multi-Agente para Compañeros Socio-Colaborativos
MASCOT mejora consistencia y diálogo en agentes multi-sistema, evitando redundancias. Descubre su optimización bi-nivel para compañeros socio-colaborativos.
La Maldición de la Alineación: transferencia de texto potencia ataques de audio
La alineación entre texto y audio en modelos omni permite transferir ataques de jailbreak, aumentando riesgos de seguridad. Descubre cómo.