Quais modelos estão disponíveis e como faço referência a eles?
Quais modelos estão disponíveis e como faço referência a eles?
Explore o catálogo completo em Supported Models. Os IDs de modelos usam o prefixo
provider/, por exemplo openai/gpt-5.6-sol, anthropic/claude-sonnet-5 ou google/gemini-3.5-flash. Os modelos precisam ser habilitados na página Models antes de poderem ser chamados.Preciso ter minhas próprias chaves de API dos provedores?
Preciso ter minhas próprias chaves de API dos provedores?
As requisições são roteadas para o provedor do modelo, portanto são necessárias credenciais do provedor: conecte chaves BYOK para faturamento direto e controle próprio dos limites de taxa, ou use o acesso gerenciado pelo Toqan Router por meio de Créditos, quando disponível. Consulte Faturamento e uso.
Posso usar modelos privados ou personalizados?
Posso usar modelos privados ou personalizados?
Adicione modelos de endpoints privados ou auto-hospedados ao catálogo de modelos do workspace. Consulte Modelos privados.
Como encontro a janela de contexto ou o máximo de tokens de saída de um modelo?
Como encontro a janela de contexto ou o máximo de tokens de saída de um modelo?
A página Models exibe as colunas Context Length e Max Output Tokens para todos os modelos e permite filtrar pelo tamanho da janela de contexto. A página estática Supported Models não lista janelas de contexto nem o máximo de tokens de saída.
Por que a maioria dos modelos de chat exige uma mensagem do usuário?
Por que a maioria dos modelos de chat exige uma mensagem do usuário?
O Claude e a maioria dos modelos de chat exigem que a conversa inclua uma mensagem do usuário. Requisições cuja entrada contém apenas instruções de sistema ou de desenvolvedor, ou que estão vazias, são rejeitadas com o erro
400 invalid_input. Os resultados de ferramentas são agrupados automaticamente em turnos do usuário.Como devo configurar temperature e top_p?
Como devo configurar temperature e top_p?
Os intervalos variam por modelo: modelos da Anthropic aceitam de
0 a 1, e modelos da OpenAI de 0 a 2. Modelos mais recentes da Anthropic rejeitam requisições que definem temperature e top_p ao mesmo tempo; defina apenas um deles. Endpoints de áudio aceitam de 0 a 1. Consulte a página do provedor Anthropic e Raciocínio.Como os modelos de raciocínio se comportam?
Como os modelos de raciocínio se comportam?
Cada provedor expõe o raciocínio de forma diferente: a OpenAI usa
reasoning_effort, enquanto o Google Gemini e a Anthropic usam um objeto thinking. O AI Gateway descarta temperature e top_p sempre que um modelo de raciocínio da OpenAI raciocina, já que esses parâmetros são incompatíveis com os modelos de raciocínio da OpenAI. Isso abrange qualquer reasoning_effort diferente de none e o caso em que reasoning_effort não é definido, porque os modelos de raciocínio da OpenAI e do Azure raciocinam por padrão. Defina reasoning_effort: none para encaminhar os parâmetros de amostragem. Consulte Raciocínio.O que acontece quando envio parâmetros não suportados ou fora do intervalo?
O que acontece quando envio parâmetros não suportados ou fora do intervalo?
Os provedores de modelos rejeitam combinações de parâmetros incompatíveis, por exemplo o erro
4028 da Anthropic quando temperature e top_p são especificados juntos. Consulte Raciocínio para ver os parâmetros que o gateway descarta em modelos de raciocínio.Quando o anexo nativo de arquivos funciona?
Quando o anexo nativo de arquivos funciona?
O anexo nativo de arquivos funciona apenas com modelos que aceitam entrada de arquivos diretamente. Em Deployments, a entrada de arquivos é suportada nos modelos da OpenAI, da Anthropic e do Google Gemini. O suporte a PDF varia por modelo. Use a regra de roteamento “Keep file attachment requests on models that support them” para rotear por funcionalidade. Consulte Multimodal e Arquivos.
Quais modelos aceitam entrada de imagem, PDF ou áudio?
Quais modelos aceitam entrada de imagem, PDF ou áudio?
O suporte a entrada de imagem, PDF e áudio varia por modelo, e o suporte a imagens não implica suporte a PDF. Consulte Enviar arquivos para modelos para a tabela de funcionalidades e Multimodal para exemplos. As abas de modalidade da página Models filtram por tipo de modelo, e não pela entrada aceita.
Quais modelos suportam saída estruturada?
Quais modelos suportam saída estruturada?
Modelos que suportam saídas estruturadas podem retornar JSON válido que corresponde a um schema. Nem todos os modelos suportam schemas; verifique o filtro de funcionalidade JSON Mode na página Models e use o modo JSON como alternativa. Consulte Saídas estruturadas.
Quais modelos suportam streaming?
Quais modelos suportam streaming?
Todos os modelos suportam streaming, com restrições específicas por endpoint. Consulte Streaming.
Quais modelos suportam chamada de ferramentas?
Quais modelos suportam chamada de ferramentas?
A chamada de ferramentas é suportada pela maioria dos modelos de chat, com diferenças de formato entre provedores. Consulte Chamada de ferramentas.
Quais modelos suportam cache de prompts?
Quais modelos suportam cache de prompts?
O suporte a cache de prompts varia por provedor: modelos da Anthropic usam marcadores
cache_control, modelos do Google Gemini fazem cache implicitamente e modelos da OpenAI fazem cache automaticamente. Consulte Cache de prompts.Qual modelo devo escolher, ou o Toqan Router pode escolher a cada requisição?
Qual modelo devo escolher, ou o Toqan Router pode escolher a cada requisição?
O Smart Router seleciona, a cada requisição, o modelo ideal de um pool com base na complexidade da tarefa e no modo escolhido. Para seleção manual, compare os modelos na página Models.
Se um provedor falhar ou limitar a taxa, o tráfego pode ser redirecionado?
Se um provedor falhar ou limitar a taxa, o tráfego pode ser redirecionado?
Configure fallbacks e novas tentativas ou balanceamento de carga para que as requisições sejam direcionadas automaticamente a outro modelo quando o principal estiver indisponível.