
Le routage d'agents prend en charge les fournisseurs personnalisés
Connectez n'importe quel point de terminaison d'API compatible OpenAI aux tiles MadoHub. Routez entre différents modèles et fournisseurs sur le même canevas.
À partir de MadoHub bêta 0.3, vous pouvez connecter n'importe quel point de terminaison d'API compatible OpenAI comme fournisseur personnalisé. Cela signifie que vous pouvez exécuter des modèles auto-hébergés, des variantes affinées et des services d'inférence spécialisés aux côtés d'API commerciales — tout sur le même canevas.
Pourquoi les fournisseurs personnalisés comptent
Différentes tâches bénéficient de différents modèles. Un tile de génération de code peut utiliser un modèle grand et capable, tandis qu'un tile de classification dans la couche de routage n'a besoin que d'un modèle petit et rapide. Forcer tous les tiles à utiliser le même fournisseur gaspille soit de la qualité, soit du coût.
La prise en charge des fournisseurs personnalisés vous permet d'optimiser chaque tile indépendamment :
- Utiliser une API commerciale pour les tâches qui exigent un raisonnement fort
- Utiliser un modèle auto-hébergé pour les tâches impliquant des données sensibles qui ne peuvent pas quitter votre réseau
- Utiliser un modèle affiné pour des tâches spécifiques à un domaine où un modèle général sous-performe
- Utiliser un modèle rapide et bon marché pour les nœuds de transformation qui n'ont besoin que d'extraire ou de reformater des données
Comment ça fonctionne
Ouvrez les réglages du fournisseur dans MadoHub et ajoutez un nouveau fournisseur personnalisé. Vous avez besoin de trois informations :
- URL du point de terminaison — l'URL de base de l'API compatible OpenAI
- Clé API — votre jeton d'authentification (stocké localement dans le trousseau système)
- Identifiant de modèle — le nom du modèle à transmettre dans les requêtes API
Une fois configuré, le fournisseur personnalisé apparaît dans le sélecteur de modèle pour n'importe quel tile. Vous pouvez mélanger les fournisseurs librement — un tile exécutant Claude, un autre exécutant un modèle Llama local, un troisième utilisant une variante GPT affinée.
Router entre les fournisseurs
La couche de routage se fiche du fournisseur qui alimente chaque tile. Les connexions fonctionnent à l'identique quel que soit le modèle sous-jacent. Vous pouvez donc construire des flux qui tirent parti des forces de différents modèles à différentes étapes.
Un exemple concret : utiliser un modèle de raisonnement fort pour analyser une exigence complexe, router la sortie structurée vers un modèle de génération de code rapide, puis router le code généré vers un modèle de revue spécialisé affiné sur votre codebase.
Formats d'API pris en charge
MadoHub prend en charge le format de l'API OpenAI chat completions. Tout service qui implémente le point de terminaison /v1/chat/completions avec des schémas de requête et de réponse standards fonctionnera comme fournisseur personnalisé. Cela inclut :
- OpenAI et Azure OpenAI
- Anthropic (via un proxy compatible)
- Serveurs d'inférence locaux (llama.cpp, vLLM, Ollama)
- Points de terminaison de modèles affinés personnalisés
- Tout service compatible OpenRouter
Disponible maintenant
La prise en charge des fournisseurs personnalisés est disponible dans MadoHub bêta 0.3, que vous pouvez télécharger depuis la page de téléchargement. Mettez à jour votre installation existante ou récupérez une nouvelle copie.
Si vous rencontrez des problèmes de compatibilité avec un fournisseur spécifique, veuillez ouvrir un ticket sur notre dépôt GitHub avec les détails du fournisseur et nous travaillerons à ajouter la prise en charge.