Cómo creé un homúnculo digital y me volví neuro-punk
Entrené modelos de lenguaje desde cero con clásicos rusos, los convertí en chatbots y los empaqueté en un binario Go. Un viaje de deep learning y neuro-punk.
#fine-tuning
El poder oculto del factor de escala en la optimización LoRA
Descubre por qué el factor α en LoRA es clave para una optimización eficiente, superando al learning rate. Aprende a ajustarlo con la nueva ley de raíz cuadrada.
ISE: Receta de trayectorias multi-turno para agentes OS
ISE genera trayectorias multi-turno con ejecución real, mejorando agentes OS en un 95% en ClawEval con Qwen3-8B. ¡Descúbrelo!
Modelos a prueba de fusiones gracias a un paisaje de pérdida sensible a escala
Evita que terceros fusionen tus modelos de IA sin permiso. Con Trap², proteges tus pesos durante el fine-tuning sin afectar su uso individual. Descubre cómo.
Adv-TGD: Ataque generativo adversarial basado en texto para reconocimiento facial
Descubre Adv-TGD, el nuevo ataque adversarial que engaña sistemas de reconocimiento facial con 85.9% de éxito y alta calidad visual.
ART: Nuevo método de ajuste fino para LLMs multimodales
Descubre ART, un innovador método de fine-tuning para LLMs multimodales que optimiza la entrada visual sin modificar pesos. Competitivo con LoRA en benchmarks.
AsFT: Anclando la seguridad en el ajuste fino de LLMs
Descubre cómo AsFT ancla la seguridad en el fine-tuning de LLMs, reduciendo conductas dañinas y mejorando el rendimiento del modelo.
Adaptando Prithvi-EO para detección de barbecho en el nexo agua-alimento
Aprende a adaptar Prithvi-EO para detectar barbecho con precisión usando LoRA y adaptadores ViT, optimizando el nexo agua-alimento.
PoetryQwen: Traducción y emoción en poesía clásica china
Descubre PoetryQwen, el modelo fine-tuneado con LoRA que mejora un 9.7% la traducción y comprensión emocional de poesía clásica china. Nuevo dataset.
GPO: Aprendizaje de pasos críticos para mejorar razonamiento LLM
GPO identifica pasos críticos en el razonamiento de LLMs y optimiza el aprendizaje. Mejora el rendimiento con esta estrategia de fine-tuning.
MODIP: Optimización Basada en Modelos para Políticas de Difusión
MODIP optimiza políticas de difusión con modelos del mundo, mejorando el aprendizaje robótico. Resultados competitivos en D4RL y RoboMimic.
Ajuste fino supervisado: diseño de distribución objetivo
Descubre cómo el diseño de distribución objetivo revoluciona el ajuste fino supervisado de modelos de IA. Target-SFT optimiza la distribución y supera métodos tradicionales.
RoboGPT-R1: Mejora la Planificación Robótica con Aprendizaje por Refuerzo
Descubre RoboGPT-R1 combina supervisión y aprendizaje por refuerzo para mejorar la planificación robótica, superando modelos más grandes en tareas complejas
Alineación guiada por Pareto para generación de texto personalizado y justo
Descubre cómo el marco de alineación guiada por Pareto equilibra personalización y equidad en generación de texto, reduciendo sesgos demográficos sin sacrificar fidelidad.
Avances en auditoría de privacidad empírica con canarios sintéticos
Descubre cómo los canarios sintéticos mejoran la auditoría de privacidad en LLMs. Aprende a medir memorización y fuga de datos en fine-tuning eficiente.
Atajos en la cola: debiasing con compresión espectral post-hoc
Descubre cómo truncar la cola del SVD de actualizaciones reduce sesgos en modelos de IA sin reentrenar, manteniendo precisión. Método post-hoc efectivo.
PriFT: Ajuste fino supervisado con soporte previo
Descubre cómo PriFT optimiza el fine-tuning supervisado con pesos de tokens estables, evitando sobreajuste y mejorando resultados en razonamiento y código.
Complejidad de muestreo en optimización convexa sin parámetros
Descubre cómo mejorar la optimización convexa estocástica cuando se desconocen parámetros clave. Métodos para evitar sobreajuste y lograr complejidad de muestreo óptima.
SearchSwarm: Delegación inteligente en LLMs para investigación profunda
SearchSwarm logra 68.1 en BrowseComp y 73.3 en BrowseComp-ZH, superando a modelos de su escala. Descubre cómo entrena la inteligencia de delegación.
Clasificador de imágenes de documentos históricos escaneados
Descubre cómo un clasificador de imágenes logra 99% de precisión al separar texto, tablas y gráficos en archivos históricos. Ideal para OCR.