[01]+----------------+
$ mono route --healthy
Roteamento
A chamada entra como auto. A Mono escolhe um modelo disponível no pool do seu plano.
● READYmono@gateway:~$ ./start --openai-compatible
Uma chave.
Vários caminhos.
Use os modelos da Mono ou conecte seus próprios provedores. O roteamento, os fallbacks e os limites ficam por nossa conta.
// compatível com o SDK da OpenAI · modelo público: auto
┌─ INCOMING_REQUEST ───────────────────┐
│ POST /v1/chat/completions │
│ model: auto stream: true │
└───────────────────────┬────────────┘
▼
╔══════════════════╗║ MONO AI ROUTER ║╚════════╤═════════╝
┌ model_01 ┐BUSY
┌ model_02 ┐READY
┌ your_api ┐STANDBY
LATENCY 842msFALLBACK 01HTTP 200
./modules
Menos pontos frágeis entre sua aplicação e a IA.
[02]+----------------+
$ mono fallback --next
Continuidade
Se um destino falhar, estiver ocupado ou em cooldown, o próximo assume a mesma chamada.
● READY[03]+----------------+
$ mono provider --attach
Suas APIs
Conecte provedores próprios e defina quando cada credencial participa do roteamento.
● READY[04]+----------------+
$ mono usage --watch
Controle
Acompanhe tokens, requisições e limites sem espalhar credenciais pela sua aplicação.
● READY./routing/live
Um endpoint. O melhor caminho disponível.
REQUESTmodel: auto
──────>ROUTERhealth + priority
01NEMOTRONbusy
02DEEPSEEKstreaming
03YOUR APIready
// a mesma requisição atravessa o pool
00:00.000[IN]POST /v1/chat/completions
00:00.012[MAP]public:model = auto
00:00.018[TRY]nemotron / concurrency=1
00:00.021[NEXT]deepseek / available
00:00.842[OK]stream opened · 200
fallbacks: 1app changes: 0status: healthy
./conversation/context
O modelo muda. A conversa continua.
A Mono encaminha a requisição completa ao destino escolhido. Quando uma rota precisa mudar, mensagens, instruções e ferramentas seguem juntas para o próximo modelo.
messages[]preservadas
system promptpreservado
tools[]compatíveis
credenciaisisoladas
[ MODEL_A ]----- context ----->[ MODEL_B ]
./quickstart
Mude duas linhas. Continue construindo.
Use sua chave Mono
Uma chave por projeto. Revogue ou limite sem tocar nos provedores.
Troque a URL base
O formato continua compatível com a OpenAI.
Chame o modelo auto
O pool muda no painel; seu código continua igual.
01 from openai import OpenAI
02
03 client = OpenAI(
04 api_key="mono_...",
05 base_url="http://172.16.1.47:3000"
06 )
07
08 stream = client.chat.completions.create(
09 model="auto",
10 messages=messages,
11 stream=True
12 )● SDK COMPATIBLEREADY TO RUN_
./plans
Comece pequeno. Escale o pool, não a complexidade.
[ DISPONÍVEL ]FREE
R$ 0 / para começar
+--------------------------------+
- + 500.000.000 tokens / dia
- + 1.000.000.000 tokens / mês
- + 100 RPM
- + 50 chamadas paralelas
- + 1 modelo no pool auto
mono@gateway:~$ ready