A niuron escolhe entre OpenAI, Anthropic, Gemini e modelos próprios considerando qualidade, custo e latência — e mostra por que escolheu.
Uma única API. Vários modelos. A niuron decide qual usar em cada requisição.Compatível com OpenAI, com fallback, cache e BYOK.
Fixar o nome de um modelo no código significa retestar toda vez que sai um melhor ou mais barato. Um modelo niuron é uma regra de roteamento: o nível de qualidade, o orçamento de latência e as capacidades que um tipo de trabalho exige, resolvidos contra o catálogo vivo a cada requisição.
O padrão. Não mande o campo model e é isto que você recebe: cada requisição é lida e enviada ao modelo que equilibra qualidade, custo e velocidade para ela.
uma linha para trocarclient.chat.completions.create(
model="niuron/code", # o trabalho, não o modelo
messages=[...],
)Usa um modelo gratuito até o limite dele, depois o próximo, e só paga quando todas as vagas gratuitas acabam, com o modelo mais barato que atinge o nível de qualidade. Um header na resposta mostra de que lado você caiu.
Os limites gratuitos pertencem a cada provedor e mudam. A niuron para antes de cada limite em vez de bater nele.
Geração, revisão, depuração e refatoração de código. Modelos fortes em programação que também respondem rápido.
Agentes que chamam ferramentas em loop. Só modelos com function calling e JSON confiáveis, com peso forte em velocidade porque a latência de cada passo se acumula.
Matemática, lógica e análise em várias etapas. Qualidade primeiro: espera por um modelo mais lento quando a resposta exige.
Deduções, análise de dados e texto técnico, com espaço para artigos longos no contexto.
Documentos longos e muitas fontes de uma vez. Só modelos com janela de contexto muito grande, ajustados para síntese cuidadosa.
Extração estruturada e classificação em volume. O modelo mais barato que devolve JSON válido, e rápido.
Copy, artigos e texto criativo. Um nível de qualidade para prosa sem pagar preço de modelo de raciocínio.
Tradução e localização, com piso de qualidade e ajustada para velocidade.
Fixe um modelo específico quando quiser. Os modelos niuron são um atalho, não uma prisão.
Sem SDK novo e sem biblioteca intermediária. Três passos, e o último é ver funcionando.
Crédito inicial incluído, sem cartão. Sua primeira chave de API está a um clique no painel.
Troque a base URL e a chave no seu SDK da OpenAI. O resto, de mensagens a streaming e tool calls, continua igual.
base_url = "https://api.openai.com/v1"base_url = "https://api.niuron.ai/v1"api_key = "sk-..."api_key = "ar_live_..."
Cada requisição é classificada e pontuada contra seus modelos registrados, depois enviada ao melhor elegível.
Cada provedor que você chama direto traz um SDK, uma chave, uma fatura e um plano para quedas. Este é o pull request que a niuron torna possível.
from openai import OpenAIfrom anthropic import Anthropicimport google.generativeai as genaiopenai_client = OpenAI(api_key=OPENAI_KEY)claude = Anthropic(api_key=ANTHROPIC_KEY)genai.configure(api_key=GEMINI_KEY)
def ask(prompt):for provider in (openai_client, claude, gemini):try:return provider.complete(prompt, timeout=20)except (RateLimit, Timeout, ServerError):time.sleep(backoff()); continueraise AllProvidersDown
Retentativas, cadeias de fallback e um circuit breaker para cada provedor. Uma queda de provedor não é a sua queda.
MODEL_BY_TASK = {"code": "gpt-4o", "summarize": "claude-haiku"}def pick_model(task, budget):... # re-tested every time a better or cheaper model shipsclient = OpenAI(base_url="https://api.niuron.ai/v1", api_key=NIURON_KEY)client.chat.completions.create(model="niuron/code", messages=msgs)
Fixe um modelo ou envie niuron/code. Mesma requisição, mesmo formato de resposta, sem mudar código nos dois casos.
Código ilustrativo. Sua stack vai ser diferente; o formato do trabalho não.
Compatível com OpenAI. Aponte seu cliente existente para /v1/chat/completions com sua chave de API do router — nenhum SDK novo pra aprender.
curl https://api.niuron.ai/v1/chat/completions \
-H "Authorization: Bearer ar_live_..." \
-H "Content-Type: application/json" \
-d '{
"model": "niuron/auto",
"messages": [{"role": "user", "content": "Explain routing in one sentence."}]
}'from openai import OpenAI
client = OpenAI(
base_url="https://api.niuron.ai/v1",
api_key="ar_live_...", # Dashboard -> API keys
)
resp = client.chat.completions.create(
model="niuron/auto", # or niuron/code, niuron/agent... or pin "gpt-4o"
messages=[{"role": "user", "content": "Explain routing in one sentence."}],
)import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.niuron.ai/v1",
apiKey: "ar_live_...", // Dashboard -> API keys
});
const resp = await client.chat.completions.create({
model: "niuron/auto", // or niuron/code, niuron/agent... or pin "gpt-4o"
messages: [{ role: "user", content: "Explain routing in one sentence." }],
});model: "niuron/auto" deixa o roteador escolher (sem o campo, você também recebe ele). Use um trabalho como niuron/code ou niuron/agent quando souber a tarefa, ou fixe um modelo específico (ex.: gpt-4o, claude-sonnet-5). O formato da resposta é idêntico.
Todo agente de código compatível com OpenAI usa os mesmos dois ajustes. Troque-os, escolha niuron/code como modelo e continue com a ferramenta que você já usa.
export ANTHROPIC_BASE_URL=https://api.niuron.ai
export ANTHROPIC_AUTH_TOKEN=ar_live_...
export ANTHROPIC_MODEL=niuron/auto[model_providers.niuron]
base_url = "https://api.niuron.ai/v1"
env_key = "NIURON_API_KEY"
wire_api = "responses"export COPILOT_PROVIDER_BASE_URL=https://api.niuron.ai/v1
export COPILOT_PROVIDER_API_KEY=ar_live_...
export COPILOT_MODEL=niuron/autoBase URL: https://api.niuron.ai/v1
API Key: ar_live_...
(click Verify)Base URL: https://api.niuron.ai/v1
API Key: ar_live_...
Model ID: niuron/codeBase URL: https://api.niuron.ai/v1
API Key: ar_live_...
Model: niuron/codeBase URL: https://api.niuron.ai/v1
API Key: ar_live_...models:
- name: niuron
provider: openai
model: niuron/code
apiBase: https://api.niuron.ai/v1
apiKey: ar_live_..."language_models": {
"openai_compatible": {
"niuron": {
"api_url": "https://api.niuron.ai/v1",
"available_models": [
{ "name": "niuron/auto", "max_tokens": 128000 }
]
}
}
}Provider: OpenAI-compatible
Base URL: https://api.niuron.ai/v1
API Key: ar_live_...export OPENAI_API_BASE=https://api.niuron.ai/v1
export OPENAI_API_KEY=ar_live_...
aider --model openai/niuron/codeOPENAI_BASE_URL=https://api.niuron.ai/v1
OPENAI_API_KEY=ar_live_...Cada resposta pode mostrar qual modelo foi escolhido, quais alternativas foram consideradas, custo estimado e economia.
{ "id": "chatcmpl-9f2a41c7", "object": "chat.completion", "model": "gemini-1.5-flash", "choices": [ … ], "usage": { "prompt_tokens": 12038, "completion_tokens": 604, "total_tokens": 12642 },"routing": { "selected_model": "gemini-1.5-flash", "selected_provider": "gemini", "strategy": "auto", "estimated_cost_usd": 0.0011, "baseline_model": "claude-3-5-haiku", "baseline_cost_usd": 0.0120, "estimated_savings_usd": 0.0109, "reason": "Best score for summarization tasks under auto routing - quality 84%, about 91% cheaper than claude-3-5-haiku, the highest-quality eligible option.", "alternatives": [ { "model": "gpt-4o-mini", "provider": "openai", "estimated_cost_usd": 0.0022 }, { "model": "claude-3-5-haiku", "provider": "anthropic", "estimated_cost_usd": 0.0120 } ] } }
Retentativas com full-jitter backoff, um circuit breaker por provedor e cadeias de fallback automáticas mantêm as requisições fluindo.
Cada requisição é classificada e pontuada por qualidade, custo, latência e confiabilidade. Vence o melhor modelo elegível.
Cache exato e semântico (pgvector) zeram custos repetidos, com isolamento por tenant e proteções configuráveis.
Amostre tráfego real pra um modelo alternativo e compare com produção — seu cliente só vê a resposta que você escolheu servir.
Custo, latência, acertos de cache, e a decisão de roteamento por trás deles — consultável no painel, em tempo real.
Um endpoint compatível com OpenAI e um saldo. Sem contrato, chave ou fatura separados para cada provedor.