Qu'est-ce que LiteLLM ?
LiteLLM expose une API unifiée compatible OpenAI routant vers Azure, Anthropic, Bedrock et des dizaines d'autres fournisseurs. Les équipes l'utilisent pour changer de modèles, imposer des budgets et centraliser l'accès LLM.
Services
LiteLLM
Passerelle proxy compatible OpenAI pour 100+ fournisseurs LLM
IAAPI
Comment déployer sur Kubeara
Connectez-vous à votre tableau de bord Kubeara et connectez un serveur si ce n'est pas déjà fait.
Ouvrez le catalogue Services et sélectionnez LiteLLM.
LiteLLM sur Kubeara Vérifiez les paramètres préconfigurés et cliquez sur Déployer.
LiteLLM déployé sur Kubeara LiteLLM est maintenant en cours d'exécution sur votre serveur Kubeara. Ouvrez l'URL du service depuis votre tableau de bord pour commencer.