En entornos Kubernetes modernos la observabilidad suele apoyarse en OpenTelemetry y Prometheus, pero ambos necesitan que las aplicaciones expongan telemetría. Muchos servidores MCP no lo hacen y funcionan como cajas negras: las peticiones entran y salen sin métricas internas. ToolHive cierra esa brecha ejecutándose dentro del clúster como un proxy inteligente que recopila estadísticas de uso de servidores MCP sin modificar su código y las transforma en métricas y trazas consumibles por OTel y Prometheus.

El problema central es que Prometheus espera un endpoint /metrics y OpenTelemetry espera datos enviados desde aplicaciones instrumentadas. Los servidores MCP suelen centrarse en su función de conectar modelos con el mundo real y dejan la telemetría como una tarea secundaria. Eso impide responder preguntas críticas como cuantas peticiones por segundo gestiona cada servidor, cuál es la latencia media de llamadas a herramientas, si hay errores o timeouts y cuánto CPU o memoria consumen. Sin esos datos no se puede optimizar, depurar ni garantizar la fiabilidad de aplicaciones basadas en IA.

ToolHive actúa como intermediario: se despliega junto a los servidores MCP en Kubernetes y observa directamente el tráfico de orquestación. Al interceptar peticiones y respuestas registra conteos, tasas, latencias, códigos de error y estadísticas de uso de herramientas. También genera trazas distribuidas para cada interacción MCP, ofreciendo visibilidad de extremo a extremo. De este modo la observabilidad queda desacoplada del servidor MCP y no se requieren cambios en el servidor ni nuevas dependencias.

Entre las ventajas de este enfoque destacan cero modificaciones en los servidores, conciencia de protocolo para capturar operaciones MCP específicas, y despliegue nativo en Kubernetes que facilita el descubrimiento de servicios y el escalado. ToolHive normaliza los datos en formatos OpenTelemetry y Prometheus para que su stack existente los consuma inmediatamente.

ToolHive soporta cuatro arquitecturas de integración para alimentar tu canal de observabilidad. La recomendada para la mayoría de despliegues Kubernetes es ToolHive que envía métricas y trazas a un colector OpenTelemetry mediante OTLP, el colector expone /metrics que Prometheus raspa y las trazas se exportan a tu backend de trazas como Jaeger o Tempo. Esta arquitectura centraliza y estandariza el procesamiento, combina la fiabilidad del modelo pull de Prometheus con la flexibilidad del colector OTel y permite enriquecer, transformar y rutear datos a múltiples destinos evitando vendor lock in.

Otras opciones contempladas incluyen el uso de RemoteWrite para empujar métricas, la exposición directa de /metrics en ToolHive para raspado por Prometheus y configuraciones híbridas que combinan push de trazas y pull de métricas. Cada opción tiene sus trade offs en complejidad operativa y tolerancia a fallos, pero para la mayoría de organizaciones la arquitectura con colector OTel intermedio ofrece el mejor equilibrio entre fiabilidad y flexibilidad.

Una vez desplegado, ToolHive llena tus dashboards y sistemas de alerta con métricas prácticas como toolhive_mcp_requests_total para contadores de peticiones, histogramas de duración request_duration_seconds para p95 y p99 de latencia, y toolhive_mcp_tool_calls_total para llamadas a herramientas. Las trazas distribuidas permiten seguir la trayectoria completa de cada petición y correlacionarlas con métricas mediante ids de trace y span, facilitando la resolución de cuellos de botella y la depuración. Todas las métricas incluyen etiquetas estándar de Kubernetes como namespace, pod y servicio, lo que simplifica la agregación y el filtrado en paneles existentes.

En Q2BSTUDIO ofrecemos desarrollo de software y consultoría para integrar soluciones como ToolHive en infraestructuras empresariales y maximizar el valor de la telemetría. Somos especialistas en aplicaciones a medida y software a medida, con experiencia en inteligencia artificial, agentes IA y soluciones de ia para empresas. Podemos ayudarte a diseñar pipelines de observabilidad, a desplegar ToolHive en Kubernetes y a conectar tus métricas y trazas con plataformas de Business Intelligence y Power BI para obtener informes accionables. Conecta además la observabilidad con plataformas cloud: ofrecemos servicios cloud aws y azure para alojar y escalar tus entornos de forma segura.

Si tu organización necesita proyectos a medida o integración de IA podemos trabajar en soluciones personalizadas y seguras que incluyan ciberseguridad y pentesting como parte del ciclo de desarrollo. Con Q2BSTUDIO obtienes un socio que cubre desde la creación de aplicaciones hasta la instrumentación, monitorización y análisis con servicios inteligencia de negocio.

Descubre cómo aplicamos inteligencia artificial en proyectos reales visitando nuestra página de inteligencia artificial y conoce nuestras capacidades en desarrollo de aplicaciones en servicios de software a medida. Si quieres, en la próxima entrega te guiaremos paso a paso para desplegar ToolHive en Kubernetes con Helm, kubectl y un tablero Grafana inicial.

La brecha de observabilidad en servidores MCP no tiene por qué ser permanente. Con herramientas como ToolHive y el apoyo de equipos especializados en IA, ciberseguridad y servicios cloud puedes obtener las métricas y trazas necesarias para operar con confianza, detectar anomalías y optimizar el rendimiento de tus aplicaciones basadas en inteligencia artificial.