> ## Documentation Index
> Fetch the complete documentation index at: /docs/llms.txt
> Use this file to discover all available pages before exploring further.

# Modelos compatíveis com OpenAI

> Conecte qualquer endpoint compatível com OpenAI ao AI Gateway do Toqan Router. Configure Base URLs personalizadas para provedores de LLM auto-hospedados ou privados com observabilidade.

## **Configurando modelos privados compatíveis com OpenAI**

Os modelos privados compatíveis com OpenAI permitem conectar e gerenciar seus próprios endpoints semelhantes aos da OpenAI diretamente no **AI Gateway**.\
Isso oferece total flexibilidade para integrar modelos de provedores como **Groq**, **Together AI**, **Mistral** ou qualquer implantação personalizada compatível com OpenAI, tudo com isolamento e propriedade no nível do workspace.

Depois de configurados, esses modelos ficam disponíveis em todo o Toqan Router e podem ser usados facilmente em **Deployments**, **Experiments** e no **AI Gateway**.

### **Recursos compatíveis**

Os modelos privados compatíveis com OpenAI oferecem os mesmos recursos que os modelos padrão da OpenAI, incluindo:

* **Chat completion** com chamada de funções e saídas estruturadas.
* Geração de **embeddings** para busca vetorial e recuperação semântica.
* Endpoints de geração de **imagens** (compatíveis com DALL-E).
* **Completion** (modelos legados e ajuste por instruções).
* Recursos de **visão**, quando o provedor oferece suporte.

## **Adicionando um modelo privado compatível com OpenAI**

Para criar um modelo privado, acesse o **AI Gateway** no Studio do Toqan Router, clique em **Model** no canto superior direito e selecione **OpenAI Compatible**.

Você verá um formulário de configuração no qual poderá definir todos os detalhes de conexão do seu modelo.

### **Configurações de conexão**

| Campo | Descrição |
| :- | :- |
| **Type** | Selecione o tipo de modelo a conectar: **Chat Completion**, **Completion**, **Embedding** ou **Image**. |
| **Base URL** | Insira a URL base da API do seu endpoint compatível com OpenAI. Por exemplo: `https://api.groq.com/openai/v1` ou `https://api.openai.com/v1`. |
| **API Key** | Sua chave de autenticação do serviço. Ela será armazenada com segurança e usada em todas as solicitações seguintes. |

### **Configurações gerais**

| Campo | Descrição |
| :- | :- |
| **Model Name** | O nome que aparecerá no **AI Gateway** e em todo o Toqan Router. Exemplo: `Custom Groq Llama 3.3`. |
| **Model ID** | O identificador do modelo conforme definido pelo seu provedor. Exemplo: `llama-3.3-70b-versatile` ou `gpt-5.4-mini`. |
| **Region** | Selecione a região de implantação do seu modelo, como *United States* ou *Europe*. |
| **Description** | (Opcional) Adicione uma breve observação sobre a finalidade deste modelo. |

### **Configuração avançada**

| Campo | Descrição |
| :- | :- |
| **Max Tokens** | Limite máximo de tokens nas saídas do modelo. |
| **Temperature** | Controla a aleatoriedade da saída do modelo. |
| **Input Price (per 1M tokens)** | Defina o custo por milhão de tokens de entrada para faturamento e análises. |
| **Output Price (per 1M tokens)** | Defina o custo por milhão de tokens de saída. |

## **Salvando e validando sua configuração**

Depois de preencher o formulário de configuração, clique em <kbd>Add Model</kbd>.\
O Toqan Router valida automaticamente sua configuração:

* Verificando a conectividade do endpoint.
* Verificando sua chave de API e a autenticação.
* Testando os recursos compatíveis do modelo.

Após a validação, seu modelo aparecerá no **AI Gateway** na seção "Private Models" e poderá ser usado imediatamente em:

* **Deployments**
* **Experiments**
* Chamadas ao [**AI Gateway**](/docs/pt-BR/ai-gateway/using-the-router.md)


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.