Pular para o conteúdo principal
O AI Gateway é uma camada de roteamento independente para tráfego de LLMs em produção. Envie solicitações por um único endpoint compatível com OpenAI para acessar mais de 500 modelos de diversos provedores, com fallbacks, novas tentativas, balanceamento de carga e acompanhamento de uso integrados.

Início rápido

Conclua a primeira solicitação em poucos minutos.
1

Crie uma conta

Cadastre-se, abra o workspace e selecione AI Gateway na barra lateral. O workspace é a conta da sua organização; as configurações compartilhadas ficam em Settings > Organization, e ele contém um ou mais projetos, que agrupam recursos e definem o escopo das chaves de API.
2

Conecte um provedor

Use os Créditos do Toqan Router ou adicione uma chave de provedor em BYOK. Para adicionar uma chave, abra BYOK, escolha OpenAI, selecione Configure e cole a chave. Consulte a Visão geral dos provedores.
3

Habilite o modelo

Abra a página Models (Model List na barra lateral do AI Gateway), encontre openai/gpt-5.4 e ative o Status para habilitá-lo. Consulte Como usar o roteador.
4

Configure o Toqan Router

Abra Settings > Organization > API Keys e selecione Create API key. Escolha o Project ao qual a chave pertence: as solicitações feitas com a chave ficam restritas a esse projeto. Para este guia, mantenha Permissions em All, pois uma chave Read only ou Restricted sem acesso de escrita a Responses retorna 403 na solicitação abaixo. Consulte Chaves de API para conhecer as outras opções de permissão. Crie a chave e copie-a.
5

Execute uma solicitação

Defina a chave no terminal e envie uma solicitação ao endpoint Responses. $TOQAN_API_KEY contém a chave da etapa anterior, usada como token bearer.
Implantações auto-hospedadas e on-premise disponibilizam /v3/router no próprio hostname. Consulte URLs base.
6

Inspecione a solicitação

Abra Traces para verificar a resposta, a latência, o uso de tokens e o custo.

Próximos passos

Fallbacks e novas tentativas

Mantenha as solicitações fluindo quando um provedor falhar.

Modelos compatíveis

Explore o catálogo de modelos e os recursos dos provedores.

Migre para o Toqan Router

Migre uma aplicação existente do SDK da OpenAI, do OpenRouter ou do LiteLLM.

Perguntas frequentes sobre modelos

Respostas a dúvidas comuns sobre modelos e seus recursos.

Model Fusion

Responda a uma solicitação com um painel de modelos e um juiz, sob um único ID de modelo.