source, um intervalo de tempo e uma ou mais entradas compute, e todas as fontes respondem com o mesmo formato de linha.
Uso e custo
Agregados de traces
Volume de logs
Descubra a superfície
Endpoint
POSThttps://router.toqan.ai/eu/v3/telemetry/query
- Todas as solicitações exigem um token
Bearer. Consulte API Keys para saber como gerar um. - O escopo de workspace e projeto vem da chave de API.
Consultar telemetria
POST /v3/telemetry/query.Listar capacidades
GET /v3/telemetry/capabilities.Listar valores de facetas
POST /v3/telemetry/facet-values.Início rápido
Conte as solicitações por modelo no último dia:Solicitação
auto determina a largura do bucket a partir do intervalo solicitado, e a escala depende da fonte:
Resposta
Todas as fontes respondem com o mesmo envelope:- As chaves de
metricssão a métrica e a operação solicitadas unidas por dois-pontos, por exemplotrace_count:countougenai.cost:sum. timestampestá presente apenas em linhas agrupadas em buckets.totalsaparece apenas quando a solicitação defineinclude_totals: truee não traz timestamp, com umgroupvazio.meta.effective_graininforma o bucket efetivamente aplicado, incluindo as larguras às quaisinterval_secondsouautoforam resolvidos.meta.currencyéUSDsomente quando todas as entradascomputesãogenai.cost, e fica vazio em qualquer outra consulta.meta.warningsexplica um valor que a fonte ignorou, por exemplo umtime_zoneenviado a uma fonte que agrupa em UTC.
Fontes e métricas
TELEMETRY_SOURCE_TRACES abrange agregados brutos de traces, as métricas de uso genai e as métricas de spans. Os três não podem ser misturados em uma única solicitação.
As métricas de spans (gen_ai.* e orq.gen_ai.*) são calculadas por span de solicitação de LLM. Elas respeitam time_zone e aceitam vários computes em uma consulta escalar agrupada, ordenada pelo primeiro.
TELEMETRY_SOURCE_METRICS abrange as métricas personalizadas registradas no workspace. TELEMETRY_SOURCE_LOGS abrange apenas registros de log.
genai.usage é um pacote: solicite-o com op: "bundle" e ele retorna todos os campos em uma única linha, sob chaves genai.usage:<field>. Seus campos não são métricas consultáveis isoladamente, e esse compute não pode ser combinado com nenhum outro na mesma solicitação.
Descubra o que está disponível
As capacidades listam o que uma chave pode acessar, para que o cliente nunca precise fixar o vocabulário no código:501.
Exemplos por caso de uso
Gastos: custo por modelo
Gastos: custo por modelo
genai.cost soma o que foi registrado na janela, group_by divide por modelo e include_totals adiciona o total da janela:Erros: traces com falha por Agent
Erros: traces com falha por Agent
status aceita ok, error ou unset:Latência: p95 por Tool
Latência: p95 por Tool
Logs: volume por severidade
Logs: volume por severidade
severity_text traz valores como INFO, WARN ou ERROR:Gastos: custo por dia (bundle)
Gastos: custo por dia (bundle)
Gastos: custo por modelo por hora
Gastos: custo por modelo por hora
Gastos: BYOK vs. credenciais gerenciadas pelo Toqan Router
Gastos: BYOK vs. credenciais gerenciadas pelo Toqan Router
group.credential_type como "orq_managed" ou "customer_byok".Dimensão de entidade: custo por Agent
Dimensão de entidade: custo por Agent
Dimensão de entidade: custo por Tool com filtro de modelo
Dimensão de entidade: custo por Tool com filtro de modelo
Latência: p95 por modelo
Latência: p95 por modelo
genai.latency.p95:p95 é informada em milissegundos.Latência: p50, p95 e p99 em paralelo
Latência: p50, p95 e p99 em paralelo
Erros: contagem por provedor
Erros: contagem por provedor
Erros: taxa de erro por modelo (proporção no cliente)
Erros: taxa de erro por modelo (proporção no cliente)
Evaluator: taxa de aprovação por Evaluator e versão
Evaluator: taxa de aprovação por Evaluator e versão
Evaluator: pontuação média
Evaluator: pontuação média
Evaluator: execuções por rótulo de resultado
Evaluator: execuções por rótulo de resultado
Guardrail: taxa de bloqueio por Evaluator e estágio
Guardrail: taxa de bloqueio por Evaluator e estágio
Guardrail: acionamentos por Policy e estágio
Guardrail: acionamentos por Policy e estágio
Guardrail: filtrar por origem
Guardrail: filtrar por origem
Multi-tenant: custo por projeto por dia
Multi-tenant: custo por projeto por dia
Multi-tenant: uso por chave de API
Multi-tenant: uso por chave de API
Identity: custo por Identity de usuário final
Identity: custo por Identity de usuário final
Identity: solicitações filtradas para um único usuário final
Identity: solicitações filtradas para um único usuário final
Fuso horário: buckets diários em America/New_York
Fuso horário: buckets diários em America/New_York
Alta resolução: solicitações por minuto na última hora
Alta resolução: solicitações por minuto na última hora
Entre dimensões: custo por tipo de credencial e modelo
Entre dimensões: custo por tipo de credencial e modelo
group_by por provider, product, base_model, project_id, tool_name ou agent_name em traces, service_name ou host_name em logs, e agent, tool ou project nas métricas de uso genai. As métricas de ttft, evaluator e guardrail não aceitam nenhuma dimensão de entidade além de project. Dimensões dinâmicas podem ser endereçadas por prefixo: attributes.* e metadata.* em traces, attribute.*, resource.* e scope.* em logs.
Valores de status de trace
Cada superfície nomeia os mesmos dois resultados de forma diferente.unset é um trace que terminou sem status de erro, e a visualização Traces o considera bem-sucedido.
Erros
Uma consulta rejeitada retorna um envelope JSON com umcode numérico, uma message legível e um array details (as respostas 401 e 403 trazem apenas code e message):
ErrorInfo que nomeia o recurso esgotado (range_days, buckets, rows, series ou metric_values) e seu limite; em todas as fontes, exceto métricas genai, um estouro de buckets também informa a quantidade necessária.

