Você começou com a OpenAI. Aí o Claude da Anthropic foi melhor em código. Aí o DeepSeek V3 saiu a 1/15 do preço. Agora você tem cadeias de if/else em produção decidindo qual provedor recebe qual requisição. A abstração certa é um gateway de LLM — um único endpoint compatível com OpenAI que roteia internamente.

Este post compara as principais opções (LiteLLM self-hosted, OpenRouter, Tokia) com números reais, incluindo quando cada uma faz sentido.

O que "compatível com OpenAI" significa de verdade

Significa que o gateway expõe /v1/chat/completions, /v1/embeddings, /v1/images/generations etc. com o mesmo formato de requisição/resposta que a OpenAI usa. Resultado: qualquer SDK da OpenAI (Python, Node, Go, Ruby) funciona sem alteração — você só troca a base_url.

# Before
client = OpenAI(api_key="sk-...")

# After (any gateway)
client = OpenAI(api_key="...", base_url="https://gateway/v1")

Os provedores que não são OpenAI (Anthropic, Google, Cohere) são traduzidos internamente pelo gateway — as APIs nativas deles são diferentes, mas o envelope da OpenAI esconde isso.

Opção 1: Construir você mesmo com LiteLLM

O LiteLLM é open source e self-hosted. Você roda ele como um proxy na sua infra.

Prós:

Gratuito (só o custo de infra)
Controle total sobre as regras de roteamento
Seus dados nunca saem da sua rede

Contras:

Você cuida de uptime, escala, autenticação, logs e conciliação de cobrança
Você gerencia as API keys dos provedores (5+ contas pra monitorar saldo/limites)
Atualizações exigem redeploy
Sem UI pra quem não é da engenharia

Custo: ~US$ 50-200/mês de infra (dependendo do tráfego) + 3-5h/semana de manutenção de engenharia.

Veredito: faz sentido se você tem um time dedicado de plataforma e mais de 50 mil req/dia.

Opção 2: OpenRouter

O OpenRouter é um gateway hospedado. Paga conforme o uso, sem infra pra gerenciar.

Prós:

Configuração em 2 minutos
100+ modelos catalogados
Uma API key, uma fatura
Faz fallback automático se um provedor cair

Contras:

Adiciona de 5% a 10% sobre os preços do upstream
Só em dólar — usuários brasileiros ainda tomam IOF + spread no cartão de crédito
Suporte em inglês
Sem NF-e, sem pix

Veredito: ótimo padrão pra usuários fora do Brasil, em qualquer escala.

Opção 3: Tokia (focada no Brasil)

A Tokia é o equivalente ao OpenRouter pra empresas brasileiras. Mesmo conceito de gateway, com complementos específicos pro Brasil.

Vantagens sobre o OpenRouter pra usuários BR:

Recarga via pix (instantânea, sem IOF)
NF-e emitida automaticamente
Preço em reais (sem spread)
5% de desconto por volume acima de R$ 500/mês, com escala crescente
Suporte em PT-BR via WhatsApp

Contras:

Acréscimo sobre o custo bruto do provedor (vs. os 5-10% do OpenRouter)
Atualmente 27 modelos (vs. os 100+ do OpenRouter)
Foco no Brasil; o suporte em inglês funciona, mas não é prioridade

Veredito: faz sentido se você é uma PME brasileira gastando menos de R$ 10 mil/mês e valoriza suporte em PT-BR + NF-e mais do que o menor custo absoluto.

A lógica de roteamento em si

Independente da opção escolhida, o padrão de roteamento inteligente é o mesmo. Veja o que recomendamos pro seu próprio gateway:

# Routing rules (pseudo-code)
def route(messages, latency_budget_ms, quality_tier):
    if quality_tier == "premium":
        # Hard problems: legal, financial, complex code
        return "claude-sonnet-4-6"
    elif quality_tier == "balanced":
        # Most production traffic
        return "gpt-4o-mini" if latency_budget_ms < 2000 else "deepseek-v3"
    elif quality_tier == "fast":
        # Real-time chat, autocomplete
        return "gemini-2-flash"
    else:
        # Free/test
        return "llama-3-3-70b"

Mais um circuit breaker por provedor — se a OpenAI estiver retornando 5xx, faz fallback pra Anthropic automaticamente.

Comparação concreta de custo

Um SaaS com 1M de chat completions/mês, em média 500 tokens de entrada / 200 de saída:

Configuração	Custo mensal
OpenAI direto gpt-4o	US$ 1.800 (~R$ 9.360 + IOF + spread = R$ 10.560)
OpenAI direto gpt-4o-mini	US$ 100 (~R$ 585 com os acréscimos)
LiteLLM self-hosted roteando 50/50 mini/sonnet	US$ 90 + US$ 50 de infra
OpenRouter roteando o mesmo	US$ 110
Tokia gpt-4o-mini	R$ 1.560 (preço travado em reais)
Tokia deepseek-v3 (alternativa)	R$ 120

O maior ganho não é gateway com acréscimo vs. sem acréscimo — é escolher o modelo certo. O gateway só torna essa escolha trivial, porque você consegue testar A/B sem mexer na infra.

Caminho recomendado

Comece com o OpenRouter se você estiver fora do Brasil (ou a Tokia se estiver no Brasil)
Ao chegar em ~US$ 5 mil+/mês, avalie o LiteLLM self-hosted por custo
Ao chegar em US$ 50 mil+/mês, negocie contratos enterprise direto com os 2-3 principais provedores + mantenha o gateway como failover

Não construa um gateway customizado do zero. Os problemas de roteamento/fallback/autenticação/cobrança já estão resolvidos por essas ferramentas — o seu tempo de engenharia rende mais em outro lugar.