Destilación On-Policy en Región de Confianza
TrOPD estabiliza la destilación on-policy en LLMs con regiones de confianza. Supera a OPD, EOPD y REOPOLD en razonamiento y código. ¡Descubre cómo!
#post-entrenamiento
GPTQ-intrinsic LoRA: Cuantización de baja precisión con adaptación de bajo rango
GPTQ-intrinsic LoRA: mejora la cuantización de baja precisión con corrección de bajo rango. Algoritmo casi óptimo para modelos grandes.
CRePE: Poda post-entrenamiento con importancia relativa convolucional
Descubre CRePE, método de poda post-entrenamiento para LLMs que reduce costos sin perder precisión, y PHO que acelera la búsqueda de hiperparámetros.
Picos masivos en LLMs: vectores de sesgo y cuantización sin picos
Descubre cómo los picos masivos en LLMs son vectores de sesgo y cómo la cuantización sin picos revoluciona la eficiencia de los modelos de IA. ¡Optimiza tu AI!
Interferencia y recuperación entre dominios en RL mediante teoría de perturbación local
Descubre cómo la teoría de perturbación local explica la interferencia entre dominios en RL multi-dominio y cómo un breve refresco recupera el rendimiento sin dañar otros.
Los modelos de razonamiento cuantizados creen que necesitan pensar más, pero no
La cuantización agresiva reduce la precisión y alarga el razonamiento de los modelos de IA. Descubre cómo una penalización simple en tokens de 'overthinking' mejora la eficiencia.
El Asistente como Persona Privilegiada: Referencia Canónica
Descubre cómo los modelos de lenguaje como Llama 3.1 reconocen su propia autoría y por qué la persona del Asistente es referencia clave en el autoreconocimiento.
Repensando la granularidad: compresión de LLM con SubFit
SubFit comprime LLMs a nivel de submódulos con selección no contigua. Mejora el equilibrio precisión-perplejidad, acelera inferencia y ahorra memoria KV-cache. ¡Más eficiente!
ANDES: Síntesis Evolutiva de Datos para Agentes Autónomos
Descubre cómo ANDES, una herramienta de síntesis evolutiva de datos, permite a agentes IA alinear instrucciones de forma autónoma y mejorar el rendimiento en post-entrenamiento.
AlphaToken: Valoración de Tokens para Post-Entrenamiento de LLMs
AlphaToken mejora el post-entrenamiento de LLMs al valorar tokens, evitando el olvido catastrófico y enfocando el aprendizaje en tokens valiosos.
Multilingüismo de los modelos de lenguaje grandes desde una perspectiva estructural
Descubre cómo los modelos de lenguaje grandes representan diferentes idiomas desde un punto de vista estructural y qué diferencias clave existen entre lenguas de bajos y altos recursos.
Métrica Decan: diversidad en escritura creativa con IA
Descubre cómo la métrica Decan mide la diversidad en textos creativos usando aprendizaje en contexto, detectando pérdida de diversidad en modelos de lenguaje.
Primer sobre datos de razonamiento post-entrenamiento: cómo funciona
Descubre cómo los datos de razonamiento post-entrenamiento impulsan el avance de los modelos de IA. Una guía completa basada en más de 150 estudios.
Optimización post-entrenamiento de LLMs para decisiones con mínimo arrepentimiento
Mejora la toma de decisiones de los LLMs con Iterative RMFT: un método que minimiza el arrepentimiento y optimiza el equilibrio exploración-explotación.
3DGS más pequeño y rápido mediante aprendizaje de diccionario
Mejora el rendimiento de modelos 3DGS con compresión basada en diccionarios: reduce memoria y acelera el renderizado.
Medición, localización y ablación de firmas de alineación en LLMs
Descubre cómo medir y eliminar la firma de alineación en modelos de lenguaje con PASTA, reduciendo la detección de estilo IA manteniendo coherencia.
EchoRL: Aprendizaje por Refuerzo mediante Rollout Echoing
EchoRL identifica EchoClips en rollouts exitosos para proporcionar supervisión auxiliar y mejorar el aprendizaje por refuerzo en LLMs, superando la degeneración de ventajas.
Superando los Límites de las Rotaciones de Bloques en la Cuantización Posterior al Entrenamiento
Supera las limitaciones de rotaciones de bloques en cuantización post-entrenamiento. Optimiza la eficiencia de tus modelos de IA con esta guía práctica.
RUBRIC-ARROW: Modelado de Recompensa de Rúbrica Puntual Alternante para el Post-entrenamiento de LLM en Dominios No Verificables
RUBRIC-ARROW: Recompensa de rúbrica puntual alternante para el post-entrenamiento de LLMs. Optimiza modelos de lenguaje con retroalimentación precisa y eficiente.
REED: Edición de Representaciones Post-Entrenamiento para el Análisis Esteganográfico Lingüístico entre Dominios
Descubre REED: edición post-entrenamiento para esteganografía lingüística entre dominios. Optimiza la ocultación de datos en texto a través de dominios.