Services

Exécuter des LLM open source localement via API simple

IALLM
Déployer

Qu'est-ce que Ollama ?

Ollama télécharge et sert des grands modèles de langage sur matériel local ou serveur. Il expose une API REST et CLI pour exécuter des modèles comme Llama et Mistral sans cloud.

Comment déployer sur Kubeara

  1. Connectez-vous à votre tableau de bord Kubeara et connectez un serveur si ce n'est pas déjà fait.

  2. Ouvrez le catalogue Services et sélectionnez Ollama.

    Ollama sur Kubeara
    Ollama sur Kubeara
  3. Vérifiez les paramètres préconfigurés et cliquez sur Déployer.

    Ollama déployé sur Kubeara
    Ollama déployé sur Kubeara
  4. Ollama est maintenant en cours d'exécution sur votre serveur Kubeara. Ouvrez l'URL du service depuis votre tableau de bord pour commencer.