Evaluación de inferencia LLM en aceleradores IA: Prefill y Decode
Comparativa de inferencia LLM entre GPU y aceleradores emergentes (GroqRack). GPUs ganan en Prefill; GroqRack en Decode (TPOT). ¿Cuándo conviene cada uno?
#tpot
MAR: Reflexión Multi-Agente para Mejorar Razonamiento en LLMs
Descubre cómo la reflexión multi-agente con múltiples personalidades supera la degeneración del pensamiento en LLMs, logrando un 47% en HotPot QA y 82.7% en
A2RAG: Recuperación Adaptativa con Grafos para Razonamiento Confiable
A2RAG: marco adaptativo para recuperación con grafos que reduce costos y mejora precisión en preguntas complejas. +11% recall, 50% menos tokens.