O que é LiteLLM?
LiteLLM expõe uma API unificada compatível com OpenAI que roteia para Azure, Anthropic, Bedrock e dezenas de outros provedores. Equipes usam para trocar modelos, impor orçamentos e centralizar acesso LLM.
LiteLLM expõe uma API unificada compatível com OpenAI que roteia para Azure, Anthropic, Bedrock e dezenas de outros provedores. Equipes usam para trocar modelos, impor orçamentos e centralizar acesso LLM.
Entre no painel Kubeara e conecte um servidor, se ainda não tiver feito isso.
Abra o catálogo de Serviços e selecione LiteLLM.

Revise as configurações pré-definidas e clique em Implantar.

LiteLLM já está em execução no seu servidor Kubeara. Abra a URL do serviço no painel para começar.