Pular para o conteúdo principal
Casos de uso
  • Atualizar textos ou instruções sem implantar código.
  • Compartilhar uma única definição de prompt entre vários serviços.
  • Permitir que pessoas que não são engenheiras iterem nos prompts pela interface sem mexer no código.

Visão geral

O parâmetro orq.prompt referencia um Prompt criado no Toqan Router em vez de fixar as mensagens dele no código da aplicação. As mensagens do prompt referenciado são adicionadas antes das messages da solicitação antes de o modelo ser chamado. orq.prompt é compatível com o endpoint de Chat Completions POST https://router.toqan.ai/eu/v2/router/chat/completions. Apenas a versão latest de um prompt pode ser referenciada.

Início rápido

Pré-requisitos: o Prompt precisa ser criado no Toqan Router antes do uso. Copie o ID dele na página Prompts.

Configuração

Como funciona

  1. O roteador resolve o Prompt referenciado no momento da solicitação.
  2. As mensagens do prompt são inseridas no início das messages da solicitação.
  3. Quando o Prompt tem um modelo configurado, esse modelo substitui o model da solicitação.
  4. Quando o ID do prompt não pode ser resolvido, a solicitação é executada sem alterações, com as messages e o model originais. Nenhum erro é retornado.
Como a resolução acontece no momento da solicitação, salvar uma alteração no Prompt no Toqan Router passa a valer na próxima solicitação, sem reimplantar a aplicação.

Solução de problemas

Conteúdo do prompt ausente nas respostas Uma solicitação com uma referência de prompt que não pode ser resolvida não falha; ela é executada sem as mensagens do prompt. Verifique o seguinte:
  • Confirme se o ID do prompt está correto.
  • Verifique se o Prompt existe no workspace ao qual a chave de API pertence.
  • Confirme se o Prompt foi salvo após a última edição.
Modelo inesperado utilizado Um modelo configurado no Prompt substitui o model definido na solicitação. Remova o modelo da configuração do Prompt para manter o modelo da solicitação.

Limitações