Pular para o conteúdo principal
Casos de uso
  • Responder a perguntas sobre eventos posteriores à data de corte do treinamento do modelo.
  • Fundamentar respostas em dados em tempo real (preços, disponibilidade, notícias de última hora).
  • Assistentes de pesquisa que precisam citar fontes verificáveis e atualizadas.
  • Bots de suporte ao cliente que consultam a documentação ou as políticas atuais no momento da consulta.

Visão geral

Use POST /responses no AI Gateway com o mesmo formato de solicitação da OpenAI Responses API: model, input e um array tools que inclua uma entrada de web search integrado. O AI Gateway encaminha a pesquisa para o recurso nativo de cada provedor quando o modelo oferece suporte a ele. Consulte Responses API para ter uma visão geral do endpoint e saber quando escolhê-lo em vez de Chat Completions. Não há uma ferramenta separada do Perplexity ou do Parallel no AI Gateway; o contrato compatível são as ferramentas web_search / web_search_preview no estilo da OpenAI em /responses, mapeadas para a Anthropic e o Google quando aplicável.
Prefira modelos cujos metadados indiquem suporte a web search. Consulte Modelos compatíveis e a lista de modelos do workspace.
Chat Completions acessa o web search por um contrato diferente, executado pelo gateway: a ferramenta de servidor orq:web_search, em que o AI Gateway executa cada pesquisa e retorna os resultados ao modelo, configurada com max_results, max_uses, engine e allowed_domains / excluded_domains.

Início rápido

Use o SDK da OpenAI com a URL base do AI Gateway e chame a Responses API diretamente.
Endpoint: POST https://router.toqan.ai/eu/v3/router/responses

Definições de ferramentas

As entradas de tools da solicitação usam o campo discriminador type, de acordo com o schema do gateway.

web_search_preview

O AI Gateway aceita o objeto completo da ferramenta em /responses. As solicitações para a OpenAI repassam as ferramentas para a Responses API upstream. Os caminhos da Anthropic e do Google mapeiam web_search / web_search_preview para as ferramentas nativas de web search; campos não compatíveis com a API upstream podem ser ignorados.

include (opcional)

Você pode solicitar campos adicionais nos itens de saída do web search, de acordo com o include da OpenAI Responses: Exemplo de corpo da solicitação:

Saída: web_search_call

As respostas podem conter itens de saída com "type": "web_search_call": O formato exato do payload corresponde ao que o provedor retorna; o streaming usa o mesmo modelo de eventos dos outros streams de /responses.

Comportamento dos provedores

OpenAI

Envie tools e include no corpo da solicitação com o ID do modelo (por exemplo, openai/gpt-5.6-sol). Use os mesmos parâmetros que a OpenAI documenta para web search na Responses API.

OpenAI

Configure sua chave de API da OpenAI para usar o GPT-5.6 Sol com web search.

Anthropic

web_search e web_search_preview em tools são mapeados para a ferramenta de web search da Anthropic no caminho Messages usado em /responses.

Anthropic

Configure sua chave de API da Anthropic para usar o Claude com web search.

Google Gemini

Os mesmos tipos de ferramenta habilitam o Google Search grounding (googleSearch) nos modelos Gemini compatíveis.

Google AI

Configure sua chave de API do Google AI para usar os modelos Gemini com Google Search grounding.

tool_choice

Você pode direcionar o modelo para o web search usando a forma estruturada de tool_choice, por exemplo:
Os valores de tool_choice.type compatíveis com ferramentas integradas são definidos no schema da API (incluindo web_search, web_search_preview e literais relacionados). As strings none, auto e required funcionam normalmente.

Streaming

Defina "stream": true no mesmo corpo JSON. O servidor responde com text/event-stream e eventos no formato de stream de resposta no estilo da OpenAI.
No streaming com cURL, -N desativa o buffer para que as linhas SSE apareçam à medida que chegam. Analise as linhas data: do corpo da resposta da mesma forma que faria com o stream da Responses da OpenAI.

Exemplos de código

Defina TOQAN_API_KEY (ou passe a chave explicitamente) para que o cabeçalho Authorization seja resolvido.

Veja também