
El enrutamiento de agentes ahora soporta proveedores personalizados
Conecta cualquier endpoint de API compatible con OpenAI a los tiles de MadoHub. Enruta entre distintos modelos y proveedores en el mismo lienzo.
A partir de MadoHub beta 0.3, puedes conectar cualquier endpoint de API compatible con OpenAI como proveedor personalizado. Esto significa que puedes ejecutar modelos auto-alojados, variantes fine-tuned y servicios de inferencia especializados junto a APIs comerciales — todo en el mismo lienzo.
Por qué importan los proveedores personalizados
Diferentes tareas se benefician de diferentes modelos. Un tile de generación de código puede usar un modelo grande y capaz, mientras un tile de clasificación en la capa de enrutamiento solo necesita un modelo rápido y pequeño. Forzar a todos los tiles a usar el mismo proveedor malgasta calidad o coste.
El soporte de proveedores personalizados te permite optimizar cada tile de forma independiente:
- Usa una API comercial para tareas que requieren razonamiento fuerte
- Usa un modelo auto-alojado para tareas que involucran datos sensibles que no pueden salir de tu red
- Usa un modelo fine-tuned para tareas específicas de dominio donde un modelo general rinde por debajo
- Usa un modelo rápido y barato para nodos de transformación que solo necesitan extraer o reformatear datos
Cómo funciona
Abre los ajustes de proveedor en MadoHub y añade un proveedor personalizado nuevo. Necesitas tres datos:
- URL del endpoint — la URL base de la API compatible con OpenAI
- Clave API — tu token de autenticación (guardado localmente en el llavero del sistema)
- Identificador de modelo — el nombre del modelo a pasar en las peticiones a la API
Una vez configurado, el proveedor personalizado aparece en el selector de modelo para cualquier tile. Puedes mezclar proveedores libremente — un tile corriendo Claude, otro corriendo un modelo Llama local, un tercero usando una variante GPT fine-tuned.
Enrutamiento entre proveedores
La capa de enrutamiento no se preocupa por qué proveedor alimenta cada tile. Las conexiones funcionan igual independientemente del modelo subyacente. Esto significa que puedes construir flujos de trabajo que aprovechan las fortalezas de distintos modelos en distintas etapas.
Un ejemplo práctico: usa un modelo de razonamiento fuerte para analizar un requisito complejo, enruta la salida estructurada a un modelo rápido de generación de código, luego enruta el código generado a un modelo de revisión especializado fine-tuned sobre tu código.
Formatos de API soportados
MadoHub soporta el formato de la API de chat completions de OpenAI. Cualquier servicio que implemente el endpoint /v1/chat/completions con esquemas de petición y respuesta estándar funcionará como proveedor personalizado. Esto incluye:
- OpenAI y Azure OpenAI
- Anthropic (vía proxy compatible)
- Servidores de inferencia local (llama.cpp, vLLM, Ollama)
- Endpoints de modelos fine-tuned personalizados
- Cualquier servicio compatible con OpenRouter
Disponible ahora
El soporte de proveedores personalizados está disponible en MadoHub beta 0.3, que puedes descargar desde la página de descargas. Actualiza tu instalación existente o descarga una copia nueva.
Si encuentras problemas de compatibilidad con un proveedor concreto, abre un issue en nuestro repositorio de GitHub con los detalles del proveedor y trabajaremos en añadir soporte.