La Fundación LightSeek lanza TokenSpeed, un motor de inferencia de LLM de código abierto que apunta a un rendimiento a nivel de TensorRT-LLM para cargas de trabajo agentivas.
LightSeek presenta TokenSpeed, un motor de inferencia LLM open source con rendimiento TensorRT-LLM, optimizado para agentes de IA.