Pular para o conteúdo principal
Casos de uso
  • Fundamentar respostas em documentos proprietários sem fine-tuning.
  • Bots internos de perguntas e respostas sobre manuais, políticas ou bases de código da empresa.
  • Adicionar conhecimento específico de um domínio a um modelo genérico sem sobrecarregar o prompt.
  • Reduzir alucinações dando ao modelo acesso a fontes confiáveis no momento da consulta.

Pré-requisitos

As Knowledge Bases foram criadas para fornecer informações relevantes e específicas para um LLM usar. Para começar, consulte Criar uma Knowledge Base. As Knowledge Bases precisam ser enriquecidas com os documentos de origem e configuradas para expor chunks adequados ao caso de uso.
Use o id da Knowledge Base como knowledge_id na geração do modelo.
O campo knowledge_bases está disponível apenas no endpoint de Chat Completions (/v3/router/chat/completions), por meio do objeto de extensão orq. Ele não é compatível com a Responses API (/v3/router/responses).

Início rápido

Usando a Knowledge Base criada e o seu id, inclua o payload knowledge_bases na chamada de geração do modelo.
O payload knowledge_bases contém a configuração da consulta e o tipo de busca. Para saber mais, consulte Modos de busca e Estratégia de chunking.
O Toqan Router enriquecerá automaticamente a geração do modelo com o contexto e a consulta fornecidos à knowledge base
Knowledge Base