Skip to content

Latest commit

 

History

History
1238 lines (887 loc) · 50.9 KB

README.phi.md

File metadata and controls

1238 lines (887 loc) · 50.9 KB
OmniRoute Dashboard

🚀 OmniRoute — Ang Libreng AI Gateway

🌐 English | Português (BR)

Huwag kailanman ihinto ang coding. Smart routing sa LIBRE at murang mga modelo ng AI na may awtomatikong fallback.

Iyong unibersal na API proxy — isang endpoint, 36+ provider, zero downtime.

Mga Pagkumpleto ng Chat • Mga Pag-embed • Pagbuo ng Imahe • Audio • Pag-rerank • 100% TypeScript

🤖 Libreng AI Provider para sa iyong mga paboritong coding agent

Ikonekta ang anumang AI-powered IDE o CLI tool sa pamamagitan ng OmniRoute — libreng API gateway para sa walang limitasyong coding.

OpenClaw
OpenClaw
⭐ 205K 		NanoBot
NanoBot
⭐ 20.9K 		PicoClaw
PicoClaw
⭐ 14.6K 		ZeroClaw
ZeroClaw
⭐ 9.9K 		IronClaw
IronClaw
⭐ 2.1K
OpenCode
OpenCode
⭐ 106K 		Codex CLI
Codex CLI
⭐ 60.8K 		Claude Code
Claude Code
⭐ 67.3K 		Gemini CLI
Gemini CLI
⭐ 94.7K 		Kilo Code
Kilo Code
⭐ 15.5K

📡 Kumonekta ang lahat ng ahente sa pamamagitan ng http://localhost:20128/v1 o http://cloud.omniroute.online/v1__OMNI_TOKEN_20128/v1http://cloud.omniroute.online/v1__OMNI_TOKEN —iisang modelo at hindi config. quota

npm version Docker Hub License Website WhatsApp

🌐 Website • 🚀 Quick Start • 💡 Features • 📖 Docs • 💰 Pricing • 💬 WhatsApp

🌐 Available in: 🇺🇸 English | 🇧🇷 Português (Brasil) | 🇪🇸 Español | 🇫🇷 Français | 🇮🇹 Italiano | 🇷🇺 Русский | 🇨🇳 中文 (简体) | 🇩🇪 Deutsch | 🇮🇳 हिन्दी | 🇹🇭 ไทย | 🇺🇦 Українська | 🇸🇦 العربية | 🇯🇵 日本語 | 🇻🇳 Tiếng Việt | 🇧🇬 Български | 🇩🇰 Dansk | 🇫🇮 Suomi | 🇮🇱 עברית | 🇭🇺 Magyar | 🇮🇩 Bahasa Indonesia | 🇰🇷 한국어 | 🇲🇾 Bahasa Melayu | 🇳🇱 Nederlands | 🇳🇴 Norsk | 🇵🇹 Português (Portugal) | 🇷🇴 Română | 🇵🇱 Polski | 🇸🇰 Slovenčina | 🇸🇪 Svenska | 🇵🇭 Filipino

🤔 Bakit OmniRoute?

Ihinto ang pag-aaksaya ng pera at pag-abot sa mga limitasyon:

  • Mag-e-expire ang quota ng subscription na hindi nagamit bawat buwan
  • Pinipigilan ka ng mga limitasyon sa rate sa mid-coding
  • Mga Mamahaling API ($20-50/buwan bawat provider)
  • Manu-manong paglipat sa pagitan ng mga provider

Sumalutas ito ng OmniRoute:

  • ✅ I-maximize ang mga subscription - Subaybayan ang quota, gamitin ang bawat bit bago i-reset
  • ✅ Auto fallback - Subscription → API Key → Mura → Libre, zero downtime
  • ✅ Multi-account - Round-robin sa pagitan ng mga account sa bawat provider
  • ✅ Universal - Gumagana sa Claude Code, Codex, Gemini CLI, Cursor, Cline, OpenClaw, anumang CLI tool

🔄 Paano Ito Gumagana

┌─────────────┐
│  Your CLI   │  (Claude Code, Codex, Gemini CLI, OpenClaw, Cursor, Cline...)
│   Tool      │
└──────┬──────┘
       │ http://localhost:20128/v1
       ↓
┌─────────────────────────────────────────┐
│           OmniRoute (Smart Router)        │
│  • Format translation (OpenAI ↔ Claude) │
│  • Quota tracking + Embeddings + Images │
│  • Auto token refresh                   │
└──────┬──────────────────────────────────┘
       │
       ├─→ [Tier 1: SUBSCRIPTION] Claude Code, Codex, Gemini CLI
       │   ↓ quota exhausted
       ├─→ [Tier 2: API KEY] DeepSeek, Groq, xAI, Mistral, NVIDIA NIM, etc.
       │   ↓ budget limit
       ├─→ [Tier 3: CHEAP] GLM ($0.6/1M), MiniMax ($0.2/1M)
       │   ↓ budget limit
       └─→ [Tier 4: FREE] iFlow, Qwen, Kiro (unlimited)

Result: Never stop coding, minimal cost

⚡ Mabilis na Pagsisimula

1. I-install sa buong mundo:

npm install -g omniroute
omniroute

🎉 Magbubukas ang dashboard sa http://localhost:20128

Utos Paglalarawan
omniroute Simulan ang server (default port 20128)
omniroute --port 3000 Gumamit ng custom na port
omniroute --no-open Huwag awtomatikong buksan ang browser
omniroute --help Ipakita ang tulong

2. Ikonekta ang isang LIBRENG provider:

Dashboard → Mga Provider → Ikonekta ang Claude Code o Antigravity → OAuth login → Tapos na!

3. Gamitin sa iyong CLI tool:

Claude Code/Codex/Gemini CLI/OpenClaw/Cursor/Cline Settings:
  Endpoint: http://localhost:20128/v1
  API Key: [copy from dashboard]
  Model: if/kimi-k2-thinking

Iyon na! Magsimulang mag-coding gamit ang LIBRENG mga modelo ng AI.

Alternatibong — tumakbo mula sa pinagmulan:

cp .env.example .env
npm install
PORT=20128 NEXT_PUBLIC_BASE_URL=http://localhost:20128 npm run dev

🐳 Docker

Available ang OmniRoute bilang isang pampublikong larawan ng Docker sa Docker Hub.

Mabilis na pagtakbo:

docker run -d \
  --name omniroute \
  --restart unless-stopped \
  -p 20128:20128 \
  -v omniroute-data:/app/data \
  diegosouzapw/omniroute:latest

Na may environment file:

# Copy and edit .env first
cp .env.example .env

docker run -d \
  --name omniroute \
  --restart unless-stopped \
  --env-file .env \
  -p 20128:20128 \
  -v omniroute-data:/app/data \
  diegosouzapw/omniroute:latest

Gumagamit ng Docker Compose:

# Base profile (no CLI tools)
docker compose --profile base up -d

# CLI profile (Claude Code, Codex, OpenClaw built-in)
docker compose --profile cli up -d
Larawan Tag Sukat Paglalarawan
diegosouzapw/omniroute latest ~250MB Pinakabagong stable na release
diegosouzapw/omniroute 1.0.3 ~250MB Kasalukuyang bersyon

💰 Pagpepresyo sa isang Sulyap

Tier Provider Gastos I-reset ang Quota Pinakamahusay Para sa
💳 SUBSCRIPTION Claude Code (Pro) $20/buwan 5h + lingguhan Naka-subscribe na
Codex (Plus/Pro) $20-200/buwan 5h + lingguhan Mga user ng OpenAI
Gemini CLI LIBRE 180K/buwan + 1K/araw Lahat!
GitHub Copilot $10-19/buwan Buwanang Mga user ng GitHub
🔑 API KEY NVIDIA NIM LIBRE (1000 credits) Isang beses Libreng tier na pagsubok
DeepSeek Pay-per-use Wala Pinakamahusay na presyo/kalidad
Groq Libreng tier + bayad Limitado ang rate Napakabilis na hinuha
xAI (Grok) Pay-per-use Wala Mga modelong Grok
Mistral Libreng tier + bayad Limitado ang rate European AI
OpenRouter Pay-per-use Wala 100+ modelo
💰 MURA GLM-4.7 $0.6/1M Araw-araw 10AM Backup ng badyet
MiniMax M2.1 $0.2/1M 5 oras na rolling Pinaka murang opsyon
Kimi K2 $9/buwan flat 10M token/buwan Nahuhulaang gastos
🆓 LIBRE iFlow $0 Walang limitasyong 8 mga modelong libre
Qwen $0 Walang limitasyong 3 mga modelong libre
Kiro $0 Walang limitasyong Claude libre

💡 Pro Tip: Magsimula sa Gemini CLI (180K libre/buwan) + iFlow (walang limitasyong libre) combo = $0 na halaga!

🎯 Use Cases

Case 1: "May subscription ako sa Claude Pro"

Problema: Nag-e-expire ang quota nang hindi nagamit, mga limitasyon sa rate sa panahon ng mabigat na coding

Combo: "maximize-claude"
  1. cc/claude-opus-4-6        (use subscription fully)
  2. glm/glm-4.7               (cheap backup when quota out)
  3. if/kimi-k2-thinking       (free emergency fallback)

Monthly cost: $20 (subscription) + ~$5 (backup) = $25 total
vs. $20 + hitting limits = frustration

Case 2: "Gusto ko ng zero cost"

Problema: Hindi kayang bayaran ang mga subscription, kailangan ng maaasahang AI coding

Combo: "free-forever"
  1. gc/gemini-3-flash         (180K free/month)
  2. if/kimi-k2-thinking       (unlimited free)
  3. qw/qwen3-coder-plus       (unlimited free)

Monthly cost: $0
Quality: Production-ready models

Case 3: "Kailangan ko ng 24/7 coding, walang mga pagkaantala"

Problema: Mga deadline, hindi kayang bayaran ang downtime

Combo: "always-on"
  1. cc/claude-opus-4-6        (best quality)
  2. cx/gpt-5.2-codex          (second subscription)
  3. glm/glm-4.7               (cheap, resets daily)
  4. minimax/MiniMax-M2.1      (cheapest, 5h reset)
  5. if/kimi-k2-thinking       (free unlimited)

Result: 5 layers of fallback = zero downtime

Kaso 4: "Gusto ko ng LIBRENG AI sa OpenClaw"

Problema: Kailangan ng AI assistant sa mga app sa pagmemensahe, ganap na libre

Combo: "openclaw-free"
  1. if/glm-4.7                (unlimited free)
  2. if/minimax-m2.1           (unlimited free)
  3. if/kimi-k2-thinking       (unlimited free)

Monthly cost: $0
Access via: WhatsApp, Telegram, Slack, Discord, iMessage, Signal...

💡 Mga Pangunahing Tampok

🧠 Core Routing at Intelligence

Tampok Ano ang Ginagawa Nito
🎯 Smart 4-Tier Fallback Auto-ruta: Subscription → API Key → Mura → Libre
📊 Real-Time Quota Tracking Live na bilang ng token + reset countdown bawat provider
🔄 Format Translation OpenAI ↔ Claude ↔ Gemini ↔ Cursor ↔ Kiro seamless + response sanitization
👥 Suporta sa Multi-Account Maramihang account sa bawat provider na may matalinong pagpili
🔄 Auto Token Refresh Awtomatikong nagre-refresh ang mga token ng OAuth sa muling pagsubok
🎨 Mga Custom na Combos 6 na diskarte: fill-first, round-robin, p2c, random, hindi gaanong ginagamit, cost-optimized
🧩 Mga Custom na Modelo Magdagdag ng anumang ID ng modelo sa anumang provider
🌐 Wildcard Router Iruta ang provider/* na mga pattern sa anumang provider nang dynamic na
🧠 Badyet sa Pag-iisip Passthrough, auto, custom, at adaptive mode para sa mga modelo ng pangangatwiran
💬 System Prompt Injection Inilapat ang global system prompt sa lahat ng kahilingan
📄 Responses API Buong OpenAI Responses API (/v1/responses) na suporta para sa Codex

🎵 Mga Multi-Modal na API

Tampok Ano ang Ginagawa Nito
🖼️ Pagbuo ng Larawan /v1/images/generations — 4 na provider, 9+ na modelo
📐 Mga Pag-embed /v1/embeddings — 6 na provider, 9+ na modelo
🎤 Audio Transcription /v1/audio/transcriptions — Whisper-compatible
🔊 Text-to-Speech /v1/audio/speech — Multi-provider audio synthesis
🛡️ Mga Pag-moderate /v1/moderations — Mga pagsusuri sa kaligtasan ng nilalaman
🔀 Reranking /v1/rerank — Muling pagraranggo ng kaugnayan ng dokumento

🛡️ Katatagan at Seguridad

Tampok Ano ang Ginagawa Nito
🔌 Circuit Breaker Awtomatikong buksan/isara ang bawat provider na may mga na-configure na threshold
🛡️ Anti-Thundering Herd Mutex + semaphore rate-limit para sa mga API key provider
🧠 Semantic Cache Binabawasan ng two-tier na cache (pirma + semantiko) ang gastos at latency
⚡ Humiling ng Idempotency 5s dedup window para sa mga duplicate na kahilingan
🔒 TLS Fingerprint Spoofing I-bypass ang TLS-based na bot detection sa pamamagitan ng wreq-js
🌐 Pag-filter ng IP Allowlist/blocklist para sa API access control
📊 Mga Nae-edit na Limitasyon sa Rate Configurable RPM, min gap, at max na kasabay sa antas ng system
🛡 Proteksyon sa Endpoint ng API Auth gating + pagharang ng provider para sa /models endpoint
🔒 Proxy Visibility Mga color-coded na badge: 🟢 global, 🟡 provider, 🔵 per-connection na may IP display
🌐 3-Level Proxy Config I-configure ang mga proxy sa global, per-provider, o per-connection level

📊 Pagmamasid at Analytics

Tampok Ano ang Ginagawa Nito
📝 Kahilingan sa Pag-log Debug mode na may buong kahilingan/tugon logs
💾 SQLite Proxy Logs Ang mga paulit-ulit na proxy log ay nakaligtas sa pag-restart ng server
📊 Analytics Dashboard Recharts-powered: mga stat card, chart ng paggamit ng modelo, talahanayan ng provider
📈 Pagsubaybay sa Pag-unlad Mag-opt-in sa mga kaganapan sa pag-usad ng SSE para sa streaming
🧪 Mga Pagsusuri sa LLM Golden set testing na may 4 na diskarte sa pagtutugma
🔍 Humiling ng Telemetry p50/p95/p99 latency aggregation + X-Request-Id tracing
📋 Dashboard ng Mga Log Pinag-isang 4-tab na pahina: Mga Log ng Kahilingan, Mga Proxy Log, Mga Log ng Audit, Console
🖥️ Console Log Viewer Real-time na terminal-style viewer na may level filter, search, auto-scroll
📑 File-Based Logging Kinukuha ng Console interceptor ang lahat ng output sa JSON log file na may pag-ikot
🏥 Dashboard ng Kalusugan System uptime, circuit breaker states, lockouts, cache stats
💰 Pagsubaybay sa Gastos Pamamahala ng badyet + configuration ng pagpepresyo sa bawat modelo

☁️ Deployment at Pag-sync

Tampok Ano ang Ginagawa Nito
💾 Cloud Sync I-sync ang config sa mga device sa pamamagitan ng Cloudflare Workers
🌐 I-deploy Kahit Saan Localhost, VPS, Docker, Cloudflare Workers
🔑 API Key Management Bumuo, paikutin, at saklawin ang mga API key sa bawat provider
🧙 Onboarding Wizard 4-step guided setup para sa mga unang beses na user
🔧 CLI Tools Dashboard One-click configure Claude, Codex, Cline, OpenClaw, Kilo, Antigravity
🔄 Mga Backup ng DB Awtomatikong pag-backup, pagpapanumbalik, pag-export at pag-import para sa lahat ng mga setting
🌐 Internasyonalisasyon Buong i18n na may next-intl — suporta sa English + Portuguese (Brazil)
🌍 Pili ng Wika Globe icon sa header para sa real-time na paglipat ng wika (🇺🇸/🇧🇷)
📂 Custom na Direktoryo ng Data DATA_DIR env var to override default ~/.omniroute storage path
📖 Mga Detalye ng Tampok

🎯 Smart 4-Tier Fallback

Gumawa ng mga combo na may awtomatikong fallback:

Combo: "my-coding-stack"
  1. cc/claude-opus-4-6        (your subscription)
  2. nvidia/llama-3.3-70b      (free NVIDIA API)
  3. glm/glm-4.7               (cheap backup, $0.6/1M)
  4. if/kimi-k2-thinking       (free fallback)

→ Auto switches when quota runs out or errors occur

📊 Real-Time na Pagsubaybay sa Quota

  • Pagkonsumo ng token bawat provider
  • I-reset ang countdown (5 oras, araw-araw, lingguhan)
  • Pagtatantya ng gastos para sa mga bayad na tier
  • Mga ulat sa buwanang paggasta

🔄 Pagsasalin ng Format

Walang putol na pagsasalin sa pagitan ng mga format:

  • OpenAI ↔ Claude ↔ Gemini ↔ OpenAI Responses
  • Ang iyong CLI tool ay nagpapadala ng OpenAI na format → OmniRoute nagsasalin → Provider ay tumatanggap ng katutubong format
  • Gumagana sa anumang tool na sumusuporta sa mga custom na endpoint ng OpenAI
  • Response sanitization — Tinatanggal ang mga hindi karaniwang field para sa mahigpit na OpenAI SDK compatibility
  • Pag-normalize ng tungkulin — developer → system para sa hindi OpenAI; system → user para sa mga modelo ng GLM/ERNIE
  • Think tag extraction — <think> block → reasoning_content para sa mga modelo ng pag-iisip
  • Structured output — json_schema → Gemini's responseMimeType/responseSchema

👥 Multi-Account Support

  • Magdagdag ng maramihang mga account sa bawat provider
  • Auto round-robin o priority-based na pagruruta
  • Fallback sa susunod na account kapag naabot ng isa ang quota

🔄 Auto Token Refresh

  • Awtomatikong nagre-refresh ang mga token ng OAuth bago mag-expire
  • Walang kinakailangang manu-manong muling pagpapatotoo
  • Walang putol na karanasan sa lahat ng provider

🎨 Mga Custom na Combos

  • Lumikha ng walang limitasyong mga kumbinasyon ng modelo
  • 6 na diskarte: fill-first, round-robin, power-of-two-choices, random, hindi gaanong ginagamit, cost-optimized
  • Magbahagi ng mga combo sa mga device na may Cloud Sync

🏥 Dashboard ng Kalusugan

  • Katayuan ng system (uptime, bersyon, paggamit ng memorya)
  • Mga estado ng circuit breaker bawat provider (Sarado/Bukas/Kalahating Bukas)
  • Katayuan ng limitasyon sa rate at mga aktibong lockout
  • Mga istatistika ng cache ng lagda
  • Latency telemetry (p50/p95/p99) + prompt cache
  • I-reset ang katayuan ng kalusugan sa isang pag-click

🔧 Palaruan ng Tagasalin

Kasama sa OmniRoute ang isang malakas na built-in na Playground ng Translator na may 4 na mode para sa pag-debug, pagsubok, at pagsubaybay sa mga pagsasalin ng API:

Mode Paglalarawan
💻 Palaruan Direktang pagsasalin ng format — i-paste ang anumang katawan ng kahilingan sa API at agad na makita kung paano ito isinasalin ng OmniRoute sa pagitan ng mga format ng provider (OpenAI ↔ Claude ↔ Gemini ↔ Responses API). May kasamang mga halimbawang template at format ng auto-detection.
💬 Chat Tester Magpadala ng mga totoong kahilingan sa chat sa pamamagitan ng OmniRoute at tingnan ang buong round-trip: ang iyong input, ang isinaling kahilingan, ang tugon ng provider, at ang isinaling tugon pabalik. Napakahalaga para sa pagpapatunay ng combo routing.
🧪 Test Bench Batch testing mode — tumukoy ng maraming test case na may iba't ibang input at inaasahang output, patakbuhin ang mga ito nang sabay-sabay, at paghambingin ang mga resulta sa mga provider at modelo.
📱 Live Monitor Real-time na pagsubaybay sa kahilingan — panoorin ang mga papasok na kahilingan habang dumadaloy ang mga ito sa OmniRoute, tingnan ang mga pagsasalin ng format na nangyayari nang live, at tukuyin kaagad ang mga isyu.

Access: Dashboard → Translator (sidebar)

💾 Cloud Sync

  • I-sync ang mga provider, combo, at mga setting sa mga device
  • Awtomatikong pag-sync sa background
  • Secure na naka-encrypt na imbakan

📖 Gabay sa Pag-setup

💳 Mga Tagabigay ng Subscription

Claude Code (Pro/Max)

Dashboard → Providers → Connect Claude Code
→ OAuth login → Auto token refresh
→ 5-hour + weekly quota tracking

Models:
  cc/claude-opus-4-6
  cc/claude-sonnet-4-5-20250929
  cc/claude-haiku-4-5-20251001

Pro Tip: Gamitin ang Opus para sa mga kumplikadong gawain, Soneto para sa bilis. Sinusubaybayan ng OmniRoute ang quota bawat modelo!

OpenAI Codex (Plus/Pro)

Dashboard → Providers → Connect Codex
→ OAuth login (port 1455)
→ 5-hour + weekly reset

Models:
  cx/gpt-5.2-codex
  cx/gpt-5.1-codex-max

Gemini CLI (LIBRE 180K/buwan!)

Dashboard → Providers → Connect Gemini CLI
→ Google OAuth
→ 180K completions/month + 1K/day

Models:
  gc/gemini-3-flash-preview
  gc/gemini-2.5-pro

Pinakamahusay na Halaga: Malaking libreng tier! Gamitin ito bago ang mga bayad na tier.

GitHub Copilot

Dashboard → Providers → Connect GitHub
→ OAuth via GitHub
→ Monthly reset (1st of month)

Models:
  gh/gpt-5
  gh/claude-4.5-sonnet
  gh/gemini-3-pro
🔑 API Key Provider

NVIDIA NIM (LIBRE 1000 credits!)

  1. Mag-sign up: build.nvidia.com
  2. Kumuha ng libreng API key (1000 inference credits kasama)
  3. Dashboard → Magdagdag ng Provider → NVIDIA NIM:
    • API Key: nvapi-your-key

Mga Modelo: nvidia/llama-3.3-70b-instruct, nvidia/mistral-7b-instruct, at 50+ pa

Pro Tip: OpenAI-compatible na API — gumagana nang walang putol sa pagsasalin ng format ng OmniRoute!

DeepSeek

  1. Mag-sign up: platform.deepseek.com
  2. Kunin ang API key
  3. Dashboard → Magdagdag ng Provider → DeepSeek

Mga Modelo: deepseek/deepseek-chat, deepseek/deepseek-coder

Groq (Magagamit ang Libreng Tier!)

  1. Mag-sign up: console.groq.com
  2. Kunin ang API key (kasama ang libreng tier)
  3. Dashboard → Magdagdag ng Provider → Groq

Mga Modelo: groq/llama-3.3-70b, groq/mixtral-8x7b

Pro Tip: Napakabilis na inference — pinakamahusay para sa real-time na coding!

OpenRouter (100+ Modelo)

  1. Mag-sign up: openrouter.ai
  2. Kunin ang API key
  3. Dashboard → Magdagdag ng Provider → OpenRouter

Mga Modelo: I-access ang 100+ na modelo mula sa lahat ng pangunahing provider sa pamamagitan ng iisang API key.

💰 Mga Murang Provider (Backup)

GLM-4.7 (Araw-araw na pag-reset, $0.6/1M)

  1. Mag-sign up: Zhipu AI
  2. Kumuha ng API key mula sa Coding Plan
  3. Dashboard → Magdagdag ng API Key:
    • Provider: glm
    • API Key: your-key

Gamitin: glm/glm-4.7

Pro Tip: Nag-aalok ang Coding Plan ng 3× na quota sa 1/7 na halaga! I-reset araw-araw 10:00 AM.

MiniMax M2.1 (5h reset, $0.20/1M)

  1. Mag-sign up: MiniMax
  2. Kunin ang API key
  3. Dashboard → Magdagdag ng API Key

Gamitin: minimax/MiniMax-M2.1

Pro Tip: Ang pinakamurang opsyon para sa mahabang konteksto (1M token)!

Kimi K2 ($9/month flat)

  1. Mag-subscribe: Moonshot AI
  2. Kunin ang API key
  3. Dashboard → Magdagdag ng API Key

Gamitin: kimi/kimi-latest

Pro Tip: Nakapirming $9/buwan para sa 10M token = $0.90/1M epektibong gastos!

🆓 LIBRENG Provider (Emergency Backup)

iFlow (8 LIBRENG modelo)

Dashboard → Connect iFlow
→ iFlow OAuth login
→ Unlimited usage

Models:
  if/kimi-k2-thinking
  if/qwen3-coder-plus
  if/glm-4.7
  if/minimax-m2
  if/deepseek-r1

Qwen (3 LIBRENG modelo)

Dashboard → Connect Qwen
→ Device code authorization
→ Unlimited usage

Models:
  qw/qwen3-coder-plus
  qw/qwen3-coder-flash

Kiro (Claude LIBRE)

Dashboard → Connect Kiro
→ AWS Builder ID or Google/GitHub
→ Unlimited usage

Models:
  kr/claude-sonnet-4.5
  kr/claude-haiku-4.5
🎨 Lumikha ng mga Combo

Halimbawa 1: I-maximize ang Subscription → Murang Backup

Dashboard → Combos → Create New

Name: premium-coding
Models:
  1. cc/claude-opus-4-6 (Subscription primary)
  2. glm/glm-4.7 (Cheap backup, $0.6/1M)
  3. minimax/MiniMax-M2.1 (Cheapest fallback, $0.20/1M)

Use in CLI: premium-coding

Halimbawa 2: Libre-Lamang (Zero na Gastos)

Name: free-combo
Models:
  1. gc/gemini-3-flash-preview (180K free/month)
  2. if/kimi-k2-thinking (unlimited)
  3. qw/qwen3-coder-plus (unlimited)

Cost: $0 forever!
🔧 CLI Integration

Cursor IDE

Settings → Models → Advanced:
  OpenAI API Base URL: http://localhost:20128/v1
  OpenAI API Key: [from OmniRoute dashboard]
  Model: cc/claude-opus-4-6

Claude Code

Gamitin ang pahina ng CLI Tools sa dashboard para sa isang pag-click na configuration, o manu-manong i-edit ang ~/.claude/settings.json.

Codex CLI

export OPENAI_BASE_URL="http://localhost:20128"
export OPENAI_API_KEY="your-omniroute-api-key"

codex "your prompt"

OpenClaw

Pagpipilian 1 — Dashboard (inirerekomenda):

Dashboard → CLI Tools → OpenClaw → Select Model → Apply

Pagpipilian 2 — Manwal: I-edit ang ~/.openclaw/openclaw.json:

{
  "models": {
    "providers": {
      "omniroute": {
        "baseUrl": "http://127.0.0.1:20128/v1",
        "apiKey": "sk_omniroute",
        "api": "openai-completions"
      }
    }
  }
}

Tandaan: Ang OpenClaw ay gumagana lamang sa lokal na OmniRoute. Gamitin ang 127.0.0.1 sa halip na localhost upang maiwasan ang mga isyu sa paglutas ng IPv6.

Cline / Magpatuloy / RooCode

Settings → API Configuration:
  Provider: OpenAI Compatible
  Base URL: http://localhost:20128/v1
  API Key: [from OmniRoute dashboard]
  Model: if/kimi-k2-thinking

📊 Mga Magagamit na Modelo

Tingnan ang lahat ng available na modelo

Claude Code (cc/) - Pro/Max:

  • cc/claude-opus-4-6
  • cc/claude-sonnet-4-5-20250929
  • cc/claude-haiku-4-5-20251001

Codex (cx/) - Plus/Pro:

  • cx/gpt-5.2-codex
  • cx/gpt-5.1-codex-max

Gemini CLI (gc/) - LIBRE:

  • gc/gemini-3-flash-preview
  • gc/gemini-2.5-pro

GitHub Copilot (gh/):

  • gh/gpt-5
  • gh/claude-4.5-sonnet

NVIDIA NIM (nvidia/) - LIBRENG mga kredito:

  • nvidia/llama-3.3-70b-instruct
  • nvidia/mistral-7b-instruct
  • 50+ pang mga modelo sa build.nvidia.com

GLM (glm/) - $0.6/1M:

  • glm/glm-4.7

MiniMax (minimax/) - $0.2/1M:

  • minimax/MiniMax-M2.1

iFlow (if/) - LIBRE:

  • if/kimi-k2-thinking
  • if/qwen3-coder-plus
  • if/deepseek-r1
  • if/glm-4.7
  • if/minimax-m2

Qwen (qw/) - LIBRE:

  • qw/qwen3-coder-plus
  • qw/qwen3-coder-flash

Kiro (kr/) - LIBRE:

  • kr/claude-sonnet-4.5
  • kr/claude-haiku-4.5

OpenRouter (or/) - 100+ na modelo:

🧪 Mga Pagsusuri (Evals)

Ang OmniRoute ay may kasamang built-in na balangkas ng pagsusuri upang subukan ang kalidad ng pagtugon ng LLM laban sa isang ginintuang hanay. I-access ito sa pamamagitan ng Analytics → Evals sa dashboard.

Built-in na Golden Set

Ang pre-loaded na "OmniRoute Golden Set" ay naglalaman ng 10 test case na sumasaklaw sa:

  • Pagbati, matematika, heograpiya, pagbuo ng code
  • Pagsunod sa format ng JSON, pagsasalin, markdown
  • Pagtanggi sa kaligtasan (nakapipinsalang nilalaman), pagbibilang, lohika ng boolean

Estratehiya sa Pagsusuri

Diskarte Paglalarawan Halimbawa
exact Dapat na eksaktong tumugma ang output "4"
contains Ang output ay dapat maglaman ng substring (case-insensitive) "Paris"
regex Ang output ay dapat tumugma sa regex pattern "1.*2.*3"
custom Ang custom na JS function ay nagbabalik ng true/false (output) => output.length > 10

🔐 OAuth em Servidor Remoto (Remote OAuth Setup)

⚠️ MAHALAGA para sa usuários com OmniRoute sa VPS/Docker/servidor remoto

Para sa que o OAuth do Antigravity / Gemini CLI falha em servidores remotos?

Os provedores Antigravity at Gemini CLI gamit ang Google OAuth 2.0 para sa autenticação. O Google exige que a redirect_uri usada no fluxo OAuth seja exatamente uma das URIs pré-cadastradas no Google Cloud Console do aplicativo.

Bilang credenciais OAuth embutidas no OmniRoute estão cadastradas apenas para sa localhost. Quando você acessa o OmniRoute em um servidor remoto (hal: https://omniroute.meuservidor.com), o Google rejeita a autenticação com:

Error 400: redirect_uri_mismatch

Solusyon: I-configure ang suas próprias credenciais OAuth

Você precisa criar um OAuth 2.0 Client ID walang Google Cloud Console com a URI do seu servidor.

Passo a passo

1. Mag-access sa Google Cloud Console

Abra: https://console.cloud.google.com/apis/credentials

2. Crie um novo OAuth 2.0 Client ID

  • Clique em "+ Lumikha ng Mga Kredensyal" → "OAuth client ID"
  • Tipo de aplicativo: "Web application"
  • Pangalan: escolha qualquer nome (hal: OmniRoute Remote)

3. Idagdag bilang Mga Awtorisadong URI sa Pag-redirect

Walang campo "Mga Awtorisadong URI sa pag-redirect", idagdag:

https://seu-servidor.com/callback

Substitua seu-servidor.com pelo domínio ou IP do seu servidor (kasama ang porta se necessário, hal: http://45.33.32.156:20128/callback).

4. I-save at kopyahin bilang kredensyal

Após criar, o Google mostrará o Client ID at ** Client Secret**.

5. I-configure bilang variáveis de ambiente

No seu .env (ou nas variáveis de ambiente do Docker):

# Para Antigravity:
ANTIGRAVITY_OAUTH_CLIENT_ID=seu-client-id.apps.googleusercontent.com
ANTIGRAVITY_OAUTH_CLIENT_SECRET=GOCSPX-seu-secret

# Para Gemini CLI:
GEMINI_OAUTH_CLIENT_ID=seu-client-id.apps.googleusercontent.com
GEMINI_OAUTH_CLIENT_SECRET=GOCSPX-seu-secret
GEMINI_CLI_OAUTH_CLIENT_SECRET=GOCSPX-seu-secret

6. Reinicie o OmniRoute

# Se usando npm:
npm run dev

# Se usando Docker:
docker restart omniroute

7. Tente conectar novamente

Dashboard → Mga Provider → Antigravity (ou Gemini CLI) → OAuth

Agora o Google redirectionará corretamente para sa https://seu-servidor.com/callback at a autenticação funcionará.

Workaround temporário (sem configurar credenciais próprias)

Se não quiser criar credenciais próprias agora, may posibilidad na magamit o fluxo manual de URL:

  1. OmniRoute abrirá a URL de authorização do Google
  2. Após você authorizar, o Google tentará redirectionar para sa localhost (que falha no servidor remoto)
  3. Kopyahin ang isang URL completa sa barra de endereço do seu browser (mesmo que a página não carregue)
  4. Cole essa URL no campo que aparece no modal de conexão do OmniRoute
  5. Clique em "Kumonekta"

Ang workaround na ito ay gumagana sa pamamagitan ng código de authorização na URL ay maaaring mag-redirect sa iyong carregado ou não.

🐛 Pag-troubleshoot

Mag-click upang palawakin ang gabay sa pag-troubleshoot

"Ang modelo ng wika ay hindi nagbigay ng mga mensahe"

  • Naubos na ang quota ng provider → Suriin ang tracker ng quota ng dashboard
  • Solusyon: Gumamit ng combo fallback o lumipat sa mas murang tier

Paglilimita sa rate

  • Out na ang quota ng subscription → Fallback sa GLM/MiniMax
  • Magdagdag ng combo: cc/claude-opus-4-6 → glm/glm-4.7 → if/kimi-k2-thinking

Nag-expire ang token ng OAuth

  • Auto-refresh ng OmniRoute
  • Kung magpapatuloy ang mga isyu: Dashboard → Provider → Muling kumonekta

Mataas na gastos

  • Suriin ang mga istatistika ng paggamit sa Dashboard → Mga Gastos
  • Ilipat ang pangunahing modelo sa GLM/MiniMax
  • Gumamit ng libreng tier (Gemini CLI, iFlow) para sa mga hindi kritikal na gawain

Nagbubukas ang dashboard sa maling port

  • Itakda ang PORT=20128 at NEXT_PUBLIC_BASE_URL=http://localhost:20128

Mga error sa cloud sync

  • I-verify ang BASE_URL na mga puntos sa iyong running instance
  • I-verify ang CLOUD_URL na mga puntos sa iyong inaasahang cloud endpoint
  • Panatilihing nakahanay ang mga value ng NEXT_PUBLIC_* sa mga value sa gilid ng server

Hindi gumagana ang unang pag-login

  • Suriin ang INITIAL_PASSWORD sa .env
  • Kung hindi nakatakda, ang fallback na password ay 123456

Walang mga log ng kahilingan

  • Itakda ang ENABLE_REQUEST_LOGS=true sa .env

Ang pagsubok sa koneksyon ay nagpapakita ng "Di-wasto" para sa mga provider na katugma sa OpenAI

  • Maraming provider ang hindi naglalantad ng /models endpoint
  • Kasama sa OmniRoute v1.0.6+ ang fallback validation sa pamamagitan ng mga pagkumpleto ng chat
  • Tiyaking may kasamang /v1 suffix ang base URL

🛠️ Tech Stack

  • Runtime: Node.js 18–22 LTS (⚠️ Node.js 24+ ay hindi suportado — better-sqlite3 native binary ay hindi tugma)
  • Wika: TypeScript 5.9 — 100% TypeScript sa src/ at open-sse/ (v1.0.6)
  • Framework: Next.js 16 + React 19 + Tailwind CSS 4
  • Database: LowDB (JSON) + SQLite (domain state + proxy logs)
  • Streaming: Mga Kaganapang Ipinadala ng Server (SSE)
  • Auth: OAuth 2.0 (PKCE) + JWT + API Keys
  • Pagsubok: Node.js test runner (368+ unit test)
  • CI/CD: GitHub Actions (auto npm publish + Docker Hub on release)
  • Website: omniroute.online
  • Package: npmjs.com/package/omniroute
  • Docker: hub.docker.com/r/diegosouzapw/omniroute
  • Resilience: Circuit breaker, exponential backoff, anti-thundering herd, TLS spoofing

📖 Dokumentasyon

Dokumento Paglalarawan
User Guide Mga provider, combo, CLI integration, deployment
API Reference Lahat ng mga endpoint na may mga halimbawa
Troubleshooting Mga karaniwang problema at solusyon
Architecture Arkitektura ng system at mga panloob
Contributing Pag-setup at mga alituntunin ng pag-unlad
OpenAPI Spec OpenAPI 3.0 na detalye
Security Policy Pag-uulat ng kahinaan at mga kasanayan sa seguridad
VM Deployment Kumpletong gabay: VM + nginx + Cloudflare setup
Features Gallery Visual dashboard tour na may mga screenshot

📸 Preview ng Dashboard

Mag-click para makita ang mga screenshot ng dashboard
Pahina Screenshot
Mga Provider Providers
Combos Combos
Analytics Analytics
Kalusugan Health
Tagasalin Translator
Mga Setting Settings
Mga CLI Tools CLI Tools
Mga Log ng Paggamit Usage
Endpoint Endpoint

🗺️ Roadmap

Ang OmniRoute ay may 210+ feature na binalak sa maraming yugto ng pag-unlad. Narito ang mga pangunahing lugar:

Kategorya Mga Nakaplanong Tampok Mga Highlight
🧠 Routing at Intelligence 25+ Lowest-latency routing, tag-based na routing, quota preflight, P2C account selection
🔒 Seguridad at Pagsunod 20+ SSRF hardening, credential cloaking, rate-limit sa bawat endpoint, management key scoping
📊 Pagmamasid 15+ Pagsasama ng OpenTelemetry, real-time na pagsubaybay sa quota, pagsubaybay sa gastos bawat modelo
🔄 Mga Pagsasama ng Provider 20+ Dynamic na model registry, provider cooldowns, multi-account Codex, Copilot quota parsing
⚡ Pagganap 15+ Dual cache layer, prompt cache, response cache, streaming keepalive, batch API
🌐 Ecosystem 10+ WebSocket API, config hot-reload, distributed config store, commercial mode

🔜 Malapit na

  • 🔗 OpenCode Integration — Suporta ng katutubong provider para sa OpenCode AI coding IDE
  • 🔗 TRAE Integration — Buong suporta para sa balangkas ng pag-develop ng TRAE AI
  • 📦 Batch API — Asynchronous na pagproseso ng batch para sa maramihang kahilingan
  • 🎯 Tag-Based Routing — Mga kahilingan sa ruta batay sa mga custom na tag at metadata
  • 💰 Diskarte sa Pinakamababang Gastos — Awtomatikong piliin ang pinakamurang available na provider

📝 Available ang buong detalye ng feature sa OMNI_TOKEN_147 (217 detalyadong spec)

📧 Suporta

💬 Sumali sa aming komunidad! WhatsApp Group — Humingi ng tulong, magbahagi ng mga tip, at manatiling updated.

👥 Mga nag-aambag

Contributors

Paano Mag-ambag

  1. I-fork ang repositoryo
  2. Gawin ang iyong sangay ng tampok (git checkout -b feature/amazing-feature)
  3. Ibigay ang iyong mga pagbabago (git commit -m 'Add amazing feature')
  4. Itulak sa sangay (git push origin feature/amazing-feature)
  5. Magbukas ng Pull Request

Tingnan ang CONTRIBUTING.md para sa mga detalyadong alituntunin.

Naglalabas ng Bagong Bersyon

# Create a release — npm publish happens automatically
gh release create v1.0.6 --title "v1.0.6" --generate-notes

📊 Kasaysayan ng Bituin

Star History Chart

🙏 Pasasalamat

Espesyal na pasasalamat kay 9router ni decolua — ang orihinal na proyektong nagbigay inspirasyon sa tinidor na ito. Bumubuo ang OmniRoute sa hindi kapani-paniwalang pundasyong iyon na may mga karagdagang feature, multi-modal na API, at buong TypeScript na muling pagsulat.

Espesyal na salamat sa CLIProxyAPI — ang orihinal na pagpapatupad ng Go na nagbigay inspirasyon sa JavaScript port na ito.

📄 Lisensya

Lisensya ng MIT - tingnan ang LICENSE para sa mga detalye.

🇧🇷 OmniRoute — Gateway de IA Gratuito

Nunca pare de codar. Roteamento intelligente para modelos de IA GRATUITOS e de baixo custo com fallback automático.

Seu proxy universal de API — um endpoint, 36+ provedores, zero downtime.

🌐 Internacionalização (i18n)

O dashboard ng OmniRoute suporta multiplos idiomas. Ibigay ang mga ito:

Idyoma Código Katayuan
🇺🇸 Ingles en ✅ Kumpleto
🇧🇷 Português (Brasil) pt-BR ✅ Kumpleto

Para trocar o idioma: Clique no seletor de idioma (🇺🇸 EN) walang header do dashboard → selecione o idioma desejado.

Para adicionar um novo idioma:

  1. Sumigaw src/i18n/messages/{codigo}.json baseado em en.json
  2. Addicione o código em src/i18n/config.ts → LOCALES e LANGUAGES
  3. Reinicie o servidor

⚡ Início Rápido

# Instalar via npm
npx omniroute@latest

# Ou rodar do código-fonte
cp .env.example .env
npm install
PORT=20128 NEXT_PUBLIC_BASE_URL=http://localhost:20128 npm run dev

🐳 Docker

docker run -d --name omniroute -p 20128:20128 diegosouzapw/omniroute:latest

🔑 Funcionalidades Principais

  • 36+ provedores de IA — Claude, GPT, Gemini, Llama, Qwen, DeepSeek, at iba pa
  • Roteamento intelligente — Fallback automatico entre provedores
  • Tradução de formato — OpenAI ↔ Claude ↔ Gemini automaticamente
  • Multi-conta — Múltiplas contas por provedor com seleção intelligente
  • Cache semântico — Reduz custos at latência
  • OAuth automático — Token renovam automaticamente
  • Combos personalizados — 6 estratégias de roteamento
  • Dashboard completo — Monitoramento, logs, análises, configurações
  • CLI Tools — I-configure ang Claude Code, Codex, Cursor, Cline com um clique
  • 100% TypeScript — Código limpo at tipado

📖 Documentação

Dokumento Paglalarawan
Guia do Usuário Provedores, combos, CLI, deploy
Referência da API Todos os endpoints com exemplos
Solução de Problemas Problema communs at soluções
Arquitetura Arquitetura at internos do sistema
Contribuição Setup ng desenvolvimento at mga alituntunin
Deploy em VM Guia completo: VM + nginx + Cloudflare

📧 Suporta

💬 Entre para a comunidade! Grupo WhatsApp — Tire dúvidas, compartilhe dicas e fique atualizado.

Built with ❤️ para sa mga developer na nagko-code 24/7
omniroute.online