Integração com SmolAgents

AI Gateway

Encaminhe suas chamadas de LLM pelo AI Gateway alterando apenas a URL base. Sem dependência de fornecedor: execute sempre o melhor modelo pelo menor custo para o seu caso de uso.

Observabilidade

Instrumente seu código com OpenTelemetry para capturar traces, logs e métricas de cada chamada de LLM, etapa de agente e uso de ferramenta.

AI Gateway

Visão geral

O SmolAgents é um framework leve de agentes em Python criado pela Hugging Face. Usando OpenAIServerModel com um api_base personalizado, você pode encaminhar todas as chamadas de LLM pelo AI Gateway do Toqan Router e ter acesso a mais de 500 modelos, rastreamento de custos e recursos de confiabilidade.

Pré-requisitos

Uma conta no Toqan Router e uma chave de API
Python 3.9 ou superior

Para configurar sua chave de API, consulte Chaves de API e endpoints.

Instalação

pip install smolagents

Configuração

Python

import os
from smolagents import OpenAIServerModel

model = OpenAIServerModel(
    model_id="openai/gpt-5.6-sol",
    api_base="https://router.toqan.ai/eu/v3/router",
    api_key=os.environ["TOQAN_API_KEY"],
)

api_base: https://router.toqan.ai/eu/v3/router

Exemplo básico de agente

Python

import os
from smolagents import CodeAgent, OpenAIServerModel

model = OpenAIServerModel(
    model_id="openai/gpt-5.4-mini",
    api_base="https://router.toqan.ai/eu/v3/router",
    api_key=os.environ["TOQAN_API_KEY"],
)

agent = CodeAgent(tools=[], model=model)
agent.run("What is the capital of France?")

Seleção de modelo

Com o Toqan Router, você pode usar qualquer modelo compatível de mais de 30 provedores:

Python

import os
from smolagents import OpenAIServerModel

# Use Claude
claude_model = OpenAIServerModel(
    model_id="anthropic/claude-sonnet-5",
    api_base="https://router.toqan.ai/eu/v3/router",
    api_key=os.environ["TOQAN_API_KEY"],
)

# Use Gemini
gemini_model = OpenAIServerModel(
    model_id="google/gemini-2.5-flash",
    api_base="https://router.toqan.ai/eu/v3/router",
    api_key=os.environ["TOQAN_API_KEY"],
)

# Use Groq
groq_model = OpenAIServerModel(
    model_id="groq/qwen/qwen3.8-27b",
    api_base="https://router.toqan.ai/eu/v3/router",
    api_key=os.environ["TOQAN_API_KEY"],
)

Observabilidade

Visão geral

O SmolAgents usa a biblioteca openinference-instrumentation-smolagents para instrumentar automaticamente as execuções de agentes e exportar traces via OpenTelemetry.

Pré-requisitos

Uma conta no Toqan Router e uma chave de API
Python 3.9 ou superior

Instalação

pip install smolagents \
    opentelemetry-api \
    opentelemetry-sdk \
    "opentelemetry-exporter-otlp-proto-http" \
    openinference-instrumentation-smolagents

Configurando a observabilidade do Toqan Router

Configure o tracer provider e instrumente o SmolAgents antes de criar qualquer agente:

import os
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from openinference.instrumentation.smolagents import SmolagentsInstrumentor

exporter = OTLPSpanExporter(
    endpoint="https://router.toqan.ai/eu/v2/otel/v1/traces",
    headers={"Authorization": f"Bearer {os.environ['TOQAN_API_KEY']}"},
)
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(BatchSpanProcessor(exporter))

SmolagentsInstrumentor().instrument(tracer_provider=tracer_provider)

SmolagentsInstrumentor deve ser chamado antes de qualquer agente ser instanciado. Após a instrumentação, todas as execuções de CodeAgent e ToolCallingAgent são rastreadas automaticamente.

Exemplo básico

import os
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from openinference.instrumentation.smolagents import SmolagentsInstrumentor

exporter = OTLPSpanExporter(
    endpoint="https://router.toqan.ai/eu/v2/otel/v1/traces",
    headers={"Authorization": f"Bearer {os.environ['TOQAN_API_KEY']}"},
)
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(BatchSpanProcessor(exporter))
SmolagentsInstrumentor().instrument(tracer_provider=tracer_provider)

from smolagents import CodeAgent, OpenAIServerModel

agent = CodeAgent(
    tools=[],
    model=OpenAIServerModel(
        model_id="openai/gpt-5.4-mini",
        api_base="https://router.toqan.ai/eu/v3/router",
        api_key=os.environ["TOQAN_API_KEY"],
    ),
)
agent.run("What is the capital of France?")

Visão geral

Instrumente seu app

Explorar

Monitorar

Exportar

Revisar

Privacidade e segurança de dados

Integrações com frameworks

AI Gateway

Observabilidade

AI Gateway

Visão geral

Pré-requisitos

Instalação

Configuração

Exemplo básico de agente

Seleção de modelo

Observabilidade

Visão geral

Pré-requisitos

Instalação

Configurando a observabilidade do Toqan Router

Exemplo básico

AI Gateway

Observabilidade

​AI Gateway

​Visão geral

​Pré-requisitos

​Instalação

​Configuração

​Exemplo básico de agente

​Seleção de modelo

​Observabilidade

​Visão geral

​Pré-requisitos

​Instalação

​Configurando a observabilidade do Toqan Router

​Exemplo básico

AI Gateway

Visão geral

Pré-requisitos

Instalação

Configuração

Exemplo básico de agente

Seleção de modelo

Observabilidade

Visão geral

Pré-requisitos

Instalação

Configurando a observabilidade do Toqan Router

Exemplo básico