Pular para o conteúdo principal
Siga as etapas abaixo para adicionar sua integração com o LiteLLM ao AI Studio e importar seus modelos existentes para o AI Gateway. Para desativar um proxy do LiteLLM em vez de conectá-lo, consulte Migrar para o Toqan Router.

Configure sua instância do LiteLLM

  • Abra a página AI Gateway no AI Studio.
  • Encontre a aba Providers e selecione LiteLLM. O provedor LiteLLM na aba Providers.
  • Escolha Setup LiteLLM instance. Insira a Base URL e a API Key da sua instância.

Importe os modelos

  • Mude para a aba Models no AI Gateway.
  • Selecione Add Models e escolha Import from LiteLLM
Adicionando modelos com Import From LiteLLM.
  • Em seguida, selecione os modelos na lista de modelos importados do seu provedor LiteLLM.
Selecione Import para trazer seu modelo do LiteLLM para o AI Gateway.

Modelo importado

Seu modelo agora pode ser usado no AI Studio.