Prefill está limitado por la computación. Decode está limitado por la memoria. Por qué tu GPU no debería hacer ambas cosas.
Descubre por qué es importante que tu GPU se enfoque en una tarea a la vez para un mejor rendimiento y eficiencia. Evita problemas y optimiza el funcionamiento de tu tarjeta gráfica.