De 8GB a 70B: Guía de hardware para LLMs locales
¿Quieres ejecutar modelos de lenguaje como 70B en tu PC con solo 8GB de VRAM? Descubre técnicas de cuantización y optimización en esta guía práctica.
#lms
AutoMine: Minería de Escenarios Autónomos para Vehículos con IA
Descubre AutoMine: extrae escenarios críticos con LLMs y VLMs para conducción autónoma, logrando scores líderes en Argoverse 2.
Evaluación dual de sicofancia: límites de intervención
La intervención en LLMs reduce la sicofancia pero también el acuerdo con verdades. ¿Se puede corregir sin perder precisión?
Cada acto tiene su precio: Composición moral comprimida en LLMs de frontera
Descubre cómo los LLMs de frontera componen señales morales comprimidas con el benchmark Moral Trolley Arena. Resultados sobre ética en IA.
Refinamiento Algorítmico de Prompts: Elevando LLMs Pequeños con Gradientes
Optimiza prompts de LLMs pequeños con gradientes textuales. TEXTGRAD usa feedback de modelos grandes para mejorar resultados. ¡Reduce costos!
LLMs y Grafos: Hacia Sistemas de IA Sinérgicos y Nativos de Grafos
Descubre cómo los LLMs y los grafos convergen para crear sistemas de IA más potentes, con razonamiento estructurado y agentes inteligentes. ¡Lee más!
LLMs y Grafos: Hacia Sistemas de IA Nativos y Sinérgicos
Descubre cómo la integración de LLMs y grafos crea sistemas de IA sinérgicos, mejorando el razonamiento, la planificación y la gestión de datos. Tutorial completo.
AVIS: Escalado Adaptativo en Tiempo de Prueba para Modelos de Visión-Lenguaje
Descubre cómo AVIS optimiza la inferencia en VLMs adaptando el escalado visual y de razonamiento, mejorando precisión y reduciendo costos.
¿Son malos los LLMs en razonamiento moral?
¿Los LLMs son malos en razonamiento moral? Un nuevo análisis del dataset MoReBench sugiere que son más competentes de lo que se creía. Descubre los detalles.
Métricas Geométricas y LLMs: Qué Miden y Cuándo Funcionan
Descubre qué miden las métricas geométricas en LLMs y cómo pueden mejorar la evaluación de modelos de lenguaje. Un estudio revela cuándo funcionan y sus limitaciones.
CS-RLHF: Alineación Segura de LLMs con Optimización de Penalización Fija
Descubre CS-RLHF: alinea LLMs de forma segura con penalización fija, 5x más eficiente contra jailbreaks. ¡Seguridad certificable!
Mapeo de la literatura científica con LLMs y modelado de temas
Los LLMs y el modelado de temas mapean la literatura científica, revelando conexiones temáticas ocultas. Un estudio analiza 1500 artículos de ingeniería.
GraphInfer-Bench: Evaluando la capacidad de inferencia de LLMs en grafos
Descubre GraphInfer-Bench, el benchmark que mide la capacidad de inferencia de LLMs en grafos. ¿Superan a las GNNs? Entra y conoce los resultados.
FOCUS: Los DLLMs saben cómo domar su límite de cómputo
Descubre cómo FOCUS optimiza la inferencia de DLLMs, enfocando el cómputo en tokens decodables para lograr hasta 3.5x más rendimiento sin pérdida de calidad.
Momentum LMS: estabilidad, seguimiento y arrepentimiento en streaming
Conoce cómo el algoritmo MLMS garantiza estabilidad y bajo arrepentimiento en datos no estacionarios, perfecto para streaming.
FronTalk: generación conversacional de código front-end con feedback multimodal
Descubre FronTalk, benchmark para generación de código front-end con feedback multimodal. Conoce el olvido en modelos y la solución AceCoder.
ICA Lens: Interpretando modelos de lenguaje sin entrenar otro diccionario
Descubre cómo ICALens usa ICA para encontrar direcciones interpretables en LLMs sin entrenar diccionarios, superando a los SAEs en eficiencia y sondas.
GraspLLM: Generalización zero-shot en grafos de texto con LLMs
GraspLLM combina LLMs y aprendizaje contrastivo para generalizar sin entrenamiento en múltiples datasets de grafos textuales. Logra rendimiento superior zero-shot.
CodeSpear: cómo la gramática puede hacer que LLMs generen código malicioso
Descubre cómo el ataque CodeSpear explota la decodificación con gramática para que LLMs generen código malicioso. Conoce CodeShield, la defensa.
ART: Nuevo método de ajuste fino para LLMs multimodales
Descubre ART, un innovador método de fine-tuning para LLMs multimodales que optimiza la entrada visual sin modificar pesos. Competitivo con LoRA en benchmarks.