Reescritura de textos cortos con Phi Silica
Mejora la reescritura de textos cortos con Phi Silica. Aprende a aplicar fine-tuning para mayor fidelidad semántica y menos alucinaciones. ¡Resultados sorprendentes!
#fine-tuning
Afinar un VLM para app de puntuación de moda offline
Afinar un VLM para puntuar outfits offline en iPhone. Destilación de conocimiento, resultados rápidos y privados.
Aprendizaje de un optimizador de orden cero para LLMs
Descubre cómo ZO-Finetuner optimiza el ajuste de LLMs sin retropropagación, reduciendo el uso de memoria y mejorando el rendimiento en múltiples tareas.
ImmigrationQA: dataset anclado en fuentes para ley migratoria EE.UU.
Descubre ImmigrationQA, un dataset con 17,058 preguntas sobre ley migratoria de EE.UU. y cómo adaptamos Llama 3.2 con LoRA para mejorar respuestas legales.
PInVerify: benchmark offline para verificación activa de instancias
PInVerify es un nuevo benchmark offline que evalúa agentes encarnados en la verificación activa de objetos con atributos finos. Descubre cómo funciona y sus resultados con MLLMs.
Alineación humana, calibración y patrones en la incertidumbre de LLMs
Descubre cómo los LLMs reflejan la incertidumbre humana mediante alineación, calibración y patrones de activación. Un estudio clave para entender y combatir alucinaciones.
Desentrañando la interferencia LoRA: subespacios ortogonales para fusión robusta de modelos
Descubre cómo OSRM resuelve la interferencia entre tareas al fusionar modelos LoRA, mejorando el rendimiento multitarea sin perder precisión individual. Una solución plug-and-play.
Decodificación especulativa para múltiples idiomas
Descubre cómo mejorar la decodificación especulativa en idiomas no ingleses. Comparamos fine-tuning y modelos n-grama para acelerar la generación de texto multilingüe.
Colapso de representación en el entrenamiento secuencial posterior de LLMs
Descubre cómo el entrenamiento secuencial de LLMs provoca colapso de representación y qué intervenciones pueden preservar la plasticidad y la generalización.
Efectos a largo plazo de la selección de datos en fine-tuning de LLM
Descubre cómo la selección miope de datos en el fine-tuning de LLM puede perjudicar la adaptabilidad futura y cómo evitarlo.
CSULoRA: Actualización Segura de Bajo Rango para Modelos de Lenguaje
CSULoRA corrige adaptadores LoRA para evitar que el fine-tuning adversarial dañe la seguridad de los LLMs, preservando la utilidad del modelo. Descubre cómo.