Introducción a las Redes Neuronales de Grafos para Ingenieros de ML
Introducción a GNNs para ingenieros de ML. Explica el marco encoder-decoder, experimentos en grafos homogéneos y los fenómenos de oversmoothing y oversquashing.
#decode
Observación, no predicción: scheduling desagregado por conversación
Conoce ConServe: programación por conversación para agentes LLM, reduce latencia 51% y mejora eficiencia energética en servidores IA.
DuetServe: Prefill y decode en LLM con multiplexación adaptativa de GPU
DuetServe armoniza prefill y decode en LLMs con multiplexación adaptativa de GPU. Mejora el throughput 1.3x manteniendo baja latencia. Descúbrelo.
IA Física: Inferencia Batch-1 de LLMs - Memoria vs Ancho de Banda
Descubre el gap de inferencia en IA física: memoria limitada pero no ancho de banda. CUDA Graphs muestra un overhead oculto en GPUs rápidas como H100.