Replanteando el papel de la atención eficiente en arquitecturas híbridas
Descubre cómo la atención eficiente impacta el rendimiento en arquitecturas híbridas: análisis de escalado, mecanismos y diseño. El fenómeno de la pereza de
#largo contexto
Agente de IA personal para responder preguntas de tu carrete fotográfico
¿Puede una IA entender tu carrete de fotos? Conoce camroll-agent, un asistente que responde preguntas visuales personales con memoria jerárquica. Dataset de 50 usuarios.
Agente de IA personal para VQA en galería de fotos
Un agente de IA personal responde preguntas visuales sobre tu galería. El dataset Camroll y agente Camroll-Agent con memoria jerárquica.
Solo indexas una vez: atención dispersa entre capas con enrutamiento compartido
Optimiza la inferencia de LLMs con CLSA: atención dispersa entre capas que comparte índices de enrutamiento, logrando hasta 7.6x de aceleración en decodificación.