Bifrost est une passerelle IA qui achemine les requêtes vers plusieurs fournisseurs LLM via une API unifiée compatible OpenAI. Elle ajoute équilibrage de charge, basculement, cache et observabilité pour les charges IA en production.
Connectez-vous à votre tableau de bord Kubeara et connectez un serveur si ce n'est pas déjà fait.
Ouvrez le catalogue Services et sélectionnez Bifrost.
Vérifiez les paramètres préconfigurés et cliquez sur Déployer.
Bifrost est maintenant en cours d'exécution sur votre serveur Kubeara. Ouvrez l'URL du service depuis votre tableau de bord pour commencer.
