omniroute — Kódbázis-dokumentáció

Átfogó, kezdőbarát útmutató az omniroute több szolgáltató AI-proxy routeréhez.

1. Mi az omniroute?

Az omniroute egy proxy router, amely AI kliensek (Claude CLI, Codex, Cursor IDE stb.) és mesterséges intelligenciaszolgáltatók (Anthropic, Google, OpenAI, AWS, GitHub stb.) között helyezkedik el. Egy nagy problémát old meg:

A különböző AI-kliensek különböző „nyelveket” (API-formátumokat) beszélnek, és a különböző AI-szolgáltatók is eltérő „nyelveket” várnak el. Az omniroute automatikusan lefordítja őket.

Tekints úgy, mint egy univerzális fordító az Egyesült Nemzetek Szervezetében – minden küldött bármilyen nyelven beszélhet, és a fordító bármely más küldött számára átalakítja.

2. Építészet áttekintése

graph LR
    subgraph Clients
        A[Claude CLI]
        B[Codex]
        C[Cursor IDE]
        D[OpenAI-compatible]
    end

    subgraph omniroute
        E[Handler Layer]
        F[Translator Layer]
        G[Executor Layer]
        H[Services Layer]
    end

    subgraph Providers
        I[Anthropic Claude]
        J[Google Gemini]
        K[OpenAI / Codex]
        L[GitHub Copilot]
        M[AWS Kiro]
        N[Antigravity]
        O[Cursor API]
    end

    A --> E
    B --> E
    C --> E
    D --> E
    E --> F
    F --> G
    G --> I
    G --> J
    G --> K
    G --> L
    G --> M
    G --> N
    G --> O
    H -.-> E
    H -.-> G

Alapelv: Hub-and-spoke fordítás

Minden formátumfordítás átmegy az OpenAI formátumon, mint központon:

Client Format → [OpenAI Hub] → Provider Format    (request)
Provider Format → [OpenAI Hub] → Client Format    (response)

Ez azt jelenti, hogy csak N fordítóra (formátumonként egy) van szüksége a N² (minden pár) helyett.

3. Projekt felépítése

omniroute/
├── open-sse/                  ← Core proxy library (portable, framework-agnostic)
│   ├── index.js               ← Main entry point, exports everything
│   ├── config/                ← Configuration & constants
│   ├── executors/             ← Provider-specific request execution
│   ├── handlers/              ← Request handling orchestration
│   ├── services/              ← Business logic (auth, models, fallback, usage)
│   ├── translator/            ← Format translation engine
│   │   ├── request/           ← Request translators (8 files)
│   │   ├── response/          ← Response translators (7 files)
│   │   └── helpers/           ← Shared translation utilities (6 files)
│   └── utils/                 ← Utility functions
├── src/                       ← Application layer (Express/Worker runtime)
│   ├── app/                   ← Web UI, API routes, middleware
│   ├── lib/                   ← Database, auth, and shared library code
│   ├── mitm/                  ← Man-in-the-middle proxy utilities
│   ├── models/                ← Database models
│   ├── shared/                ← Shared utilities (wrappers around open-sse)
│   ├── sse/                   ← SSE endpoint handlers
│   └── store/                 ← State management
├── data/                      ← Runtime data (credentials, logs)
│   └── provider-credentials.json   (external credentials override, gitignored)
└── tester/                    ← Test utilities

4. Modulonkénti lebontás

4.1 konfiguráció (`open-sse/config/`)

Az egyetlen igazságforrás minden szolgáltatói konfigurációhoz.

Fájl	Cél
`constants.ts`	`PROVIDERS` objektum alap URL-ekkel, OAuth hitelesítési adatokkal (alapértelmezett), fejlécekkel és alapértelmezett rendszerkérdésekkel minden szolgáltatóhoz. Meghatározza a következőt is: `HTTP_STATUS`, `ERROR_TYPES`, `COOLDOWN_MS`, `BACKOFF_CONFIG` és `SKIP_PATTERNS`.
`credentialLoader.ts`	Betölti a külső hitelesítő adatokat a `data/provider-credentials.json` helyről, és egyesíti őket a `PROVIDERS` merevkódolt alapértékeihez. Kizárja a titkokat a forrás ellenőrzése alól, miközben fenntartja a visszafelé kompatibilitást.
`providerModels.ts`	Központi modellnyilvántartás: térképszolgáltatói álnevek → modellazonosítók. Funkciók, mint például `getModels()`, `getProviderByAlias()`.
`codexInstructions.ts`	A Codex kérésekbe beszúrt rendszerutasítások (szerkesztési megszorítások, sandbox-szabályok, jóváhagyási szabályzatok).
`defaultThinkingSignature.ts`	Claude és Gemini modellek alapértelmezett "gondolkodó" aláírásai.
`ollamaModels.ts`	Sémadefiníció helyi Ollama modellekhez (név, méret, család, kvantálás).

Hitelesítési adatok betöltésének folyamata

flowchart TD
    A["App starts"] --> B["constants.ts defines PROVIDERS\nwith hardcoded defaults"]
    B --> C{"data/provider-credentials.json\nexists?"}
    C -->|Yes| D["credentialLoader reads JSON"]
    C -->|No| E["Use hardcoded defaults"]
    D --> F{"For each provider in JSON"}
    F --> G{"Provider exists\nin PROVIDERS?"}
    G -->|No| H["Log warning, skip"]
    G -->|Yes| I{"Value is object?"}
    I -->|No| J["Log warning, skip"]
    I -->|Yes| K["Merge clientId, clientSecret,\ntokenUrl, authUrl, refreshUrl"]
    K --> F
    H --> F
    J --> F
    F -->|Done| L["PROVIDERS ready with\nmerged credentials"]
    E --> L

4.2 Végrehajtók (`open-sse/executors/`)

A végrehajtók a szolgáltató-specifikus logikát a stratégiai minta segítségével foglalják magukba. Minden végrehajtó szükség szerint felülírja az alapmetódusokat.

classDiagram
    class BaseExecutor {
        +buildUrl(model, stream, options)
        +buildHeaders(credentials, stream, body)
        +transformRequest(body, model, stream, credentials)
        +execute(url, options)
        +shouldRetry(status, error)
        +refreshCredentials(credentials, log)
    }

    class DefaultExecutor {
        +refreshCredentials()
    }

    class AntigravityExecutor {
        +buildUrl()
        +buildHeaders()
        +transformRequest()
        +shouldRetry()
        +refreshCredentials()
    }

    class CursorExecutor {
        +buildUrl()
        +buildHeaders()
        +transformRequest()
        +parseResponse()
        +generateChecksum()
    }

    class KiroExecutor {
        +buildUrl()
        +buildHeaders()
        +transformRequest()
        +parseEventStream()
        +refreshCredentials()
    }

    BaseExecutor <|-- DefaultExecutor
    BaseExecutor <|-- AntigravityExecutor
    BaseExecutor <|-- CursorExecutor
    BaseExecutor <|-- KiroExecutor
    BaseExecutor <|-- CodexExecutor
    BaseExecutor <|-- GeminiCLIExecutor
    BaseExecutor <|-- GithubExecutor

Végrehajtó	Szolgáltató	Legfontosabb szakterületek
`base.ts`	—	Absztrakt alap: URL-építés, fejlécek, újrapróbálkozási logika, hitelesítő adatok frissítése
`default.ts`	Claude, Gemini, OpenAI, GLM, Kimi, MiniMax	Általános OAuth-token frissítés szabványos szolgáltatók számára
`antigravity.ts`	Google Cloud Code	Projekt/munkamenet azonosító generálása, több URL-es tartalék, egyéni újrapróbálkozás a hibaüzenetekből ("visszaállítás 2 óra 7 perc után")
`cursor.ts`	Kurzor IDE	Legösszetettebb: SHA-256 ellenőrzőösszeg hitelesítés, Protobuf kéréskódolás, bináris EventStream → SSE válaszelemzés
`codex.ts`	OpenAI Codex	Rendszerutasításokat injektál, gondolkodási szinteket kezel, eltávolítja a nem támogatott paramétereket
`gemini-cli.ts`	Google Gemini CLI	Egyéni URL-építés (`streamGenerateContent`), Google OAuth-token frissítése
`github.ts`	GitHub másodpilóta	Kettős token rendszer (GitHub OAuth + másodpilóta token), VSCode fejléc utánzás
`kiro.ts`	AWS CodeWhisperer	AWS EventStream bináris elemzés, AMZN eseménykeretek, token becslés
`index.ts`	—	Gyári: térképszolgáltató neve → végrehajtó osztály, alapértelmezett tartalék

4.3 Kezelők (`open-sse/handlers/`)

A hangszerelési réteg — koordinálja a fordítást, a végrehajtást, a streamelést és a hibakezelést.

Fájl	Cél
`chatCore.ts`	Központi hangszerelő (~600 sor). Kezeli a teljes kérés életciklust: formátumészlelés → fordítás → végrehajtó feladása → streaming/nem streaming válasz → token frissítés → hibakezelés → használati naplózás.
`responsesHandler.ts`	Adapter az OpenAI Responses API-jához: átalakítja a válaszformátumot → Chat Completions → elküldi a `chatCore` címre → konvertálja vissza az SSE-t válaszformátumba.
`embeddings.ts`	Beágyazás generációs kezelő: feloldja a beágyazási modellt → szolgáltató, elküldi a szolgáltató API-nak, visszaküldi az OpenAI-kompatibilis beágyazási választ. 6+ szolgáltatót támogat.
`imageGeneration.ts`	Képgeneráló kezelő: feloldja a képmodell → szolgáltatót, támogatja az OpenAI-kompatibilis, a Gemini-image (Antigravitáció) és a tartalék (Nebius) módokat. A base64 vagy URL képeket adja vissza.

Életciklus kérése (chatCore.ts)

sequenceDiagram
    participant Client
    participant chatCore
    participant Translator
    participant Executor
    participant Provider

    Client->>chatCore: Request (any format)
    chatCore->>chatCore: Detect source format
    chatCore->>chatCore: Check bypass patterns
    chatCore->>chatCore: Resolve model & provider
    chatCore->>Translator: Translate request (source → OpenAI → target)
    chatCore->>Executor: Get executor for provider
    Executor->>Executor: Build URL, headers, transform request
    Executor->>Executor: Refresh credentials if needed
    Executor->>Provider: HTTP fetch (streaming or non-streaming)

    alt Streaming
        Provider-->>chatCore: SSE stream
        chatCore->>chatCore: Pipe through SSE transform stream
        Note over chatCore: Transform stream translates<br/>each chunk: target → OpenAI → source
        chatCore-->>Client: Translated SSE stream
    else Non-streaming
        Provider-->>chatCore: JSON response
        chatCore->>Translator: Translate response
        chatCore-->>Client: Translated JSON
    end

    alt Error (401, 429, 500...)
        chatCore->>Executor: Retry with credential refresh
        chatCore->>chatCore: Account fallback logic
    end

4.4 Szolgáltatások (`open-sse/services/`)

Üzleti logika, amely támogatja a kezelőket és a végrehajtókat.

Fájl	Cél
`provider.ts`	Formátumészlelés (`detectFormat`): elemzi a kérés törzsszerkezetét a Claude/OpenAI/Gemini/Antigravity/Responses formátumok azonosításához (beleértve a `max_tokens` heurisztikus Claude-ot). Továbbá: URL-építés, fejlécépítés, gondolkodási konfiguráció normalizálása. Támogatja a `openai-compatible-` és `anthropic-compatible-` dinamikus szolgáltatókat.
`model.ts`	Modellkarakterlánc-elemzés (`claude/model-name` → `{provider: "claude", model: "model-name"}`), álnév-feloldás ütközésészleléssel, bemeneti fertőtlenítés (elutasítja az útvonal bejárását/vezérlő karaktereket) és a modellinformáció-feloldás aszinkron alias getter támogatással.
`accountFallback.ts`	Rate-limit-kezelés: exponenciális visszalépés (1s → 2mp → 4mp → max 2perc), fiókhűtés-kezelés, hibabesorolás (mely hibák váltanak ki visszaesést, illetve nem).
`tokenRefresh.ts`	OAuth-token frissítése minden szolgáltatóhoz: Google (Gemini, Antigravity), Claude, Codex, Qwen, iFlow, GitHub (OAuth + másodpilóta kettős token), Kiro (AWS SSO OIDC + Social Auth). Tartalmazza a menet közbeni ígéret-deduplikációs gyorsítótárat és az újrapróbálkozást exponenciális visszalépéssel.
`combo.ts`	Kombinált modellek: tartalék modellek láncai. Ha az A modell meghibásodik egy tartalék jogosultsági hibával, próbálja ki a B, majd a C modellt stb. A tényleges upstream állapotkódokat adja vissza.
`usage.ts`	Lekéri a kvóta/használati adatokat a szolgáltatói API-któl (GitHub másodpilóta kvóták, antigravitációs modellkvóták, Codex sebességkorlátok, Kiro használati lebontások, Claude beállítások).
`accountSelector.ts`	Intelligens számlakiválasztás pontozási algoritmussal: figyelembe veszi a prioritást, az egészségi állapotot, a körmérkőzéses pozíciót és a lemondási állapotot, hogy kiválaszthassa az optimális fiókot minden egyes kérelemhez.
`contextManager.ts`	Kéréskörnyezet-életciklus-kezelés: kérésenkénti kontextusobjektumokat hoz létre és nyomon követ metaadatokkal (kérelemazonosító, időbélyegek, szolgáltatói információk) hibakereséshez és naplózáshoz.
`ipFilter.ts`	IP-alapú hozzáférés-vezérlés: támogatja az engedélyezési listát és a tiltólistát. Az API-kérelmek feldolgozása előtt ellenőrzi az ügyfél IP-címét a konfigurált szabályok szerint.
`sessionManager.ts`	Munkamenetkövetés ügyfél ujjlenyomattal: nyomon követi az aktív munkameneteket kivonatolt ügyfélazonosítók segítségével, figyeli a kérések számát, és munkamenet-metrikákat biztosít.
`signatureCache.ts`	Aláírás-alapú deduplikációs gyorsítótár kérése: megakadályozza a duplikált kéréseket azáltal, hogy gyorsítótárazza a legutóbbi kérelmek aláírásait, és egy időablakon belül visszaadja a gyorsítótárazott válaszokat az azonos kérésekre.
`systemPrompt.ts`	Globális rendszerprompt injekció: minden kérés elé vagy hozzáfűz egy konfigurálható rendszerpromptot, szolgáltatónkénti kompatibilitáskezeléssel.
`thinkingBudget.ts`	Érvelési jogkivonat-költségvetés-kezelés: támogatja az áthárítást, az automatikus (szalagos gondolkodási konfiguráció), az egyéni (fix költségvetésű) és az adaptív (bonyolultságra skálázott) módokat a gondolkodási/érvelési tokenek vezérléséhez.
`wildcardRouter.ts`	Helyettesítő karakterminta-útválasztás: a helyettesítő karaktermintákat (pl. `/claude-`) konkrét szolgáltató/modell párokra oldja fel a rendelkezésre állás és a prioritás alapján.

Token frissítési deduplikáció

sequenceDiagram
    participant R1 as Request 1
    participant R2 as Request 2
    participant Cache as refreshPromiseCache
    participant OAuth as OAuth Provider

    R1->>Cache: getAccessToken("gemini", token)
    Cache->>Cache: No in-flight promise
    Cache->>OAuth: Start refresh
    R2->>Cache: getAccessToken("gemini", token)
    Cache->>Cache: Found in-flight promise
    Cache-->>R2: Return existing promise
    OAuth-->>Cache: New access token
    Cache-->>R1: New access token
    Cache-->>R2: Same access token (shared)
    Cache->>Cache: Delete cache entry

Fiók tartalék állapotú gép

stateDiagram-v2
    [*] --> Active
    Active --> Error: Request fails (401/429/500)
    Error --> Cooldown: Apply backoff
    Cooldown --> Active: Cooldown expires
    Active --> Active: Request succeeds (reset backoff)

    state Error {
        [*] --> ClassifyError
        ClassifyError --> ShouldFallback: Rate limit / Auth / Transient
        ClassifyError --> NoFallback: 400 Bad Request
    }

    state Cooldown {
        [*] --> ExponentialBackoff
        ExponentialBackoff: Level 0 = 1s
        ExponentialBackoff: Level 1 = 2s
        ExponentialBackoff: Level 2 = 4s
        ExponentialBackoff: Max = 2min
    }

Kombinált modelllánc

flowchart LR
    A["Request with\ncombo model"] --> B["Model A"]
    B -->|"2xx Success"| C["Return response"]
    B -->|"429/401/500"| D{"Fallback\neligible?"}
    D -->|Yes| E["Model B"]
    D -->|No| F["Return error"]
    E -->|"2xx Success"| C
    E -->|"429/401/500"| G{"Fallback\neligible?"}
    G -->|Yes| H["Model C"]
    G -->|No| F
    H -->|"2xx Success"| C
    H -->|"Fail"| I["All failed →\nReturn last status"]

4.5 Fordító (`open-sse/translator/`)

A formátumfordító motor egy önregisztráló bővítményrendszerrel.

Építészet

graph TD
    subgraph "Request Translation"
        A["Claude → OpenAI"]
        B["Gemini → OpenAI"]
        C["Antigravity → OpenAI"]
        D["OpenAI Responses → OpenAI"]
        E["OpenAI → Claude"]
        F["OpenAI → Gemini"]
        G["OpenAI → Kiro"]
        H["OpenAI → Cursor"]
    end

    subgraph "Response Translation"
        I["Claude → OpenAI"]
        J["Gemini → OpenAI"]
        K["Kiro → OpenAI"]
        L["Cursor → OpenAI"]
        M["OpenAI → Claude"]
        N["OpenAI → Antigravity"]
        O["OpenAI → Responses"]
    end

Címtár	Fájlok	Leírás
`request/`	8 fordító	A kéréstörzsek átalakítása formátumok között. Az importáláskor minden fájl önmagát regisztrálja a `register(from, to, fn)` segítségével.
`response/`	7 fordító	A streaming válaszdarabok konvertálása formátumok között. Kezeli az SSE eseménytípusokat, gondolkodási blokkokat, eszközhívásokat.
`helpers/`	6 segítő	Megosztott segédprogramok: `claudeHelper` (rendszerkérdések kibontása, gondolkodási konfiguráció), `geminiHelper` (alkatrészek/tartalom-leképezés), `openaiHelper` (formátumszűrés), `toolCallHelper`), TOK_K, hiányzó válasz_OM_8 `responsesApiHelper`.
`index.ts`	—	Fordítómotor: `translateRequest()`, `translateResponse()`, állapotkezelés, nyilvántartás.
`formats.ts`	—	Formátumkonstansok: `OPENAI`, `CLAUDE`, `GEMINI`, `ANTIGRAVITY`, `KIRO`, `CURSOR`_, _.EN92_NI, .

Kulcstervezés: Önregisztráló beépülő modulok

// Each translator file calls register() on import:
import { register } from "../index.js";
register("claude", "openai", translateClaudeToOpenAI);

// The index.js imports all translator files, triggering registration:
import "./request/claude-to-openai.js"; // ← self-registers

4.6 Utils (`open-sse/utils/`)

Fájl	Cél
`error.ts`	Hibaválasz kiépítése (OpenAI-kompatibilis formátum), felfelé irányuló hibaelemzés, Antigravitációs újrapróbálkozási idő kivonat a hibaüzenetekből, SSE hibaadatfolyam.
`stream.ts`	SSE Transform Stream – a mag adatfolyam-folyamat. Két mód: `TRANSLATE` (teljes formátumú fordítás) és `PASSTHROUGH` (használat normalizálása + kibontása). Kezeli a darabok pufferelését, a felhasználás becslését, a tartalom hosszának követését. A folyamonkénti kódoló/dekódoló példányok elkerülik a megosztott állapotot.
`streamHelpers.ts`	Alacsony szintű SSE-segédprogramok: `parseSSELine` (szóköz-toleráns), `hasValuableContent` (üres darabokat szűr az OpenAI/Claude/Gemini számára), `fixInvalidId`, __OMNI_TOKEN_1SE-3_TOKEN_1SE-serialization `perf_metrics` tisztítás).
`usageTracking.ts`	Tokenhasználati kinyerés bármilyen formátumból (Claude/OpenAI/Gemini/Responses), becslés külön eszköz/üzenet char-per-token arányokkal, puffer hozzáadása (2000 token biztonsági ráhagyás), formátum-specifikus mezőszűrés, konzolnaplózás ANSI színekkel.
`requestLogger.ts`	Fájlalapú kérések naplózása (feliratkozás a `ENABLE_REQUEST_LOGS=true` segítségével). Munkamenet mappákat hoz létre számozott fájlokkal: `1_req_client.json` → `7_res_client.txt`. Minden I/O aszinkron (gyújt és felejt). Elfedi az érzékeny fejléceket.
`bypassHandler.ts`	Elfogja a Claude CLI meghatározott mintáit (címkivonás, bemelegítés, számlálás), és hamis válaszokat ad vissza anélkül, hogy bármelyik szolgáltatót is felhívná. Támogatja a streaminget és a nem adatfolyamot egyaránt. Szándékosan a Claude CLI hatókörére korlátozva.
`networkProxy.ts`	Feloldja egy adott szolgáltató kimenő proxy URL-jét elsőbbséggel: szolgáltató-specifikus konfiguráció → globális konfiguráció → környezeti változók (`HTTPS_PROXY`/`HTTP_PROXY`/`ALL_PROXY`). Támogatja a `NO_PROXY` kizárásokat. Gyorsítótár konfiguráció 30 másodpercig.

SSE Streaming Pipeline

flowchart TD
    A["Provider SSE stream"] --> B["TextDecoder\n(per-stream instance)"]
    B --> C["Buffer lines\n(split on newline)"]
    C --> D["parseSSELine()\n(trim whitespace, parse JSON)"]
    D --> E{"Mode?"}
    E -->|TRANSLATE| F["translateResponse()\ntarget → OpenAI → source"]
    E -->|PASSTHROUGH| G["fixInvalidId()\nnormalize chunk"]
    F --> H["hasValuableContent()\nfilter empty chunks"]
    G --> H
    H -->|"Has content"| I["extractUsage()\ntrack token counts"]
    H -->|"Empty"| J["Skip chunk"]
    I --> K["formatSSE()\nserialize + clean perf_metrics"]
    K --> L["TextEncoder\n(per-stream instance)"]
    L --> M["Enqueue to\nclient stream"]

    style A fill:#f9f,stroke:#333
    style M fill:#9f9,stroke:#333

Kérjen naplózó munkamenet-struktúrát

logs/
└── claude_gemini_claude-sonnet_20260208_143045/
    ├── 1_req_client.json      ← Raw client request
    ├── 2_req_source.json      ← After initial conversion
    ├── 3_req_openai.json      ← OpenAI intermediate format
    ├── 4_req_target.json      ← Final target format
    ├── 5_res_provider.txt     ← Provider SSE chunks (streaming)
    ├── 5_res_provider.json    ← Provider response (non-streaming)
    ├── 6_res_openai.txt       ← OpenAI intermediate chunks
    ├── 7_res_client.txt       ← Client-facing SSE chunks
    └── 6_error.json           ← Error details (if any)

4.7 Alkalmazási réteg (`src/`)

Címtár	Cél
`src/app/`	Webes felhasználói felület, API-útvonalak, Express köztes szoftver, OAuth visszahíváskezelők
`src/lib/`	Adatbázis-hozzáférés (`localDb.ts`, `usageDb.ts`), hitelesítés, megosztott
`src/mitm/`	Man-in-the-middle proxy segédprogramok a szolgáltatói forgalom lehallgatásához
`src/models/`	Adatbázismodell-definíciók
`src/shared/`	Az open-sse függvények körüli burkolók (szolgáltató, adatfolyam, hiba stb.)
`src/sse/`	SSE végpontkezelők, amelyek az open-sse könyvtárat az Express útvonalakhoz kötik
`src/store/`	Alkalmazás állapotkezelés

Figyelemre méltó API-útvonalak

Útvonal	Módszerek	Cél
`/api/provider-models`	GET/POST/DELETE	CRUD egyedi modellekhez szolgáltatónként
`/api/models/catalog`	GET	Összesített katalógus az összes modellről (csevegés, beágyazás, kép, egyéni) szolgáltató szerint csoportosítva
`/api/settings/proxy`	GET/PUT/DELETE	Hierarchikus kimenő proxykonfiguráció (`global/providers/combos/keys`)
`/api/settings/proxy/test`	POST	Ellenőrzi a proxy-kapcsolatot, és visszaadja a nyilvános IP-címet/latenciát
`/v1/providers/[provider]/chat/completions`	POST	Dedikált szolgáltatónkénti csevegés-befejezések modellellenőrzéssel
`/v1/providers/[provider]/embeddings`	POST	Dedikált szolgáltatónkénti beágyazások modellellenőrzéssel
`/v1/providers/[provider]/images/generations`	POST	Dedikált szolgáltatónkénti képgenerálás modellellenőrzéssel
`/api/settings/ip-filter`	GET/PUT	IP engedélyezési lista/blokklista kezelése
`/api/settings/thinking-budget`	GET/PUT	Indoklási token költségkeret-konfiguráció (passthrough/auto/custom/adaptative)
`/api/settings/system-prompt`	GET/PUT	Globális rendszer azonnali befecskendezése minden kérelemhez
`/api/sessions`	GET	Aktív munkamenet-követés és mérőszámok
`/api/rate-limits`	GET	számlánkénti kamatláb korlát állapota

5. Kulcsfontosságú tervezési minták

5.1 Hub-and-Spoke fordítás

Minden formátum az OpenAI formátumon keresztül történik, mint a hub. Új szolgáltató hozzáadásához csak egy pár fordítót kell írni (OpenAI-ra/OpenAI-ról), N párra nem.

5.2 Végrehajtó stratégia minta

Minden szolgáltatónak van egy dedikált végrehajtó osztálya, amely a BaseExecutor-ból öröklődik. A executors/index.ts gyára futás közben választja ki a megfelelőt.

5.3 Önregisztráló beépülő modulrendszer

A fordítómodulok regisztrálják magukat az importáláskor a register() címen. Új fordító hozzáadása csak egy fájl létrehozását és importálását jelenti.

5.4 Fiók visszaállítása exponenciális visszalépéssel

Amikor egy szolgáltató visszaadja a 429/401/500 számot, a rendszer átválthat a következő fiókra, exponenciális lehűtést alkalmazva (1 mp → 2 mp → 4 mp → max 2 perc).

5.5 kombinált modellláncok

A „kombó” több provider/model karakterláncot csoportosít. Ha az első sikertelen, akkor automatikusan visszaáll a következőre.

5.6 Állapotalapú adatfolyam-fordítás

A válaszfordítás a initState() mechanizmuson keresztül fenntartja az állapotot az SSE-darabokon (gondolkodási blokk követése, eszközhívás-gyűjtés, tartalomblokk indexelése).

5.7 Használati biztonsági puffer

Egy 2000 tokenből álló puffert adunk a jelentett használathoz, hogy megakadályozzuk, hogy az ügyfelek elérjék a kontextusablak korlátait a rendszerkérések és a formátumfordítás miatti többletterhelés miatt.

6. Támogatott formátumok

Formátum	Irány	Azonosító
OpenAI Chat befejezések	forrás + cél	`openai`
OpenAI Responses API	forrás + cél	`openai-responses`
Antropikus Claude	forrás + cél	`claude`
Google Gemini	forrás + cél	`gemini`
Google Gemini CLI	csak cél	`gemini-cli`
Antigravitáció	forrás + cél	`antigravity`
AWS Kiro	csak cél	`kiro`
Kurzor	csak cél	`cursor`

7. Támogatott szolgáltatók

Szolgáltató	Hitelesítési módszer	Végrehajtó	Főbb megjegyzések
Antropikus Claude	API-kulcs vagy OAuth	Alapértelmezett	`x-api-key` fejlécet használ
Google Gemini	API-kulcs vagy OAuth	Alapértelmezett	`x-goog-api-key` fejlécet használ
Google Gemini CLI	OAuth	GeminiCLI	`streamGenerateContent` végpontot használ
Antigravitáció	OAuth	Antigravitáció	Több URL-es tartalék, egyéni újrapróbálkozás
OpenAI	API kulcs	Alapértelmezett	Normál hordozó hitelesítés
Codex	OAuth	Codex	Rendszerutasításokat ad be, irányítja a gondolkodást
GitHub másodpilóta	OAuth + másodpilóta token	Github	Kettős token, VSCode fejléc utánzás
Kiro (AWS)	AWS SSO OIDC vagy Social	Kiro	Bináris EventStream elemzés
Kurzor IDE	Ellenőrzőösszeg hitelesítés	Kurzor	Protobuf kódolás, SHA-256 ellenőrző összegek
Qwen	OAuth	Alapértelmezett	Normál hitelesítés
iFlow	OAuth (alap + hordozó)	Alapértelmezett	Kettős hitelesítési fejléc
OpenRouter	API kulcs	Alapértelmezett	Normál hordozó hitelesítés
GLM, Kimi, MiniMax	API kulcs	Alapértelmezett	Claude-kompatibilis, használja a `x-api-key`
`openai-compatible-*`	API kulcs	Alapértelmezett	Dinamikus: bármely OpenAI-kompatibilis végpont
`anthropic-compatible-*`	API kulcs	Alapértelmezett	Dinamikus: bármely Claude-kompatibilis végpont

8. Adatfolyam összefoglalása

Streaming kérés

flowchart LR
    A["Client"] --> B["detectFormat()"]
    B --> C["translateRequest()\nsource → OpenAI → target"]
    C --> D["Executor\nbuildUrl + buildHeaders"]
    D --> E["fetch(providerURL)"]
    E --> F["createSSEStream()\nTRANSLATE mode"]
    F --> G["parseSSELine()"]
    G --> H["translateResponse()\ntarget → OpenAI → source"]
    H --> I["extractUsage()\n+ addBuffer"]
    I --> J["formatSSE()"]
    J --> K["Client receives\ntranslated SSE"]
    K --> L["logUsage()\nsaveRequestUsage()"]

Nem streamelési kérelem

flowchart LR
    A["Client"] --> B["detectFormat()"]
    B --> C["translateRequest()\nsource → OpenAI → target"]
    C --> D["Executor.execute()"]
    D --> E["translateResponse()\ntarget → OpenAI → source"]
    E --> F["Return JSON\nresponse"]

Bypass Flow (Claude CLI)

flowchart LR
    A["Claude CLI request"] --> B{"Match bypass\npattern?"}
    B -->|"Title/Warmup/Count"| C["Generate fake\nOpenAI response"]
    B -->|"No match"| D["Normal flow"]
    C --> E["Translate to\nsource format"]
    E --> F["Return without\ncalling provider"]

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

omniroute — Kódbázis-dokumentáció

1. Mi az omniroute?

2. Építészet áttekintése

Alapelv: Hub-and-spoke fordítás

3. Projekt felépítése

4. Modulonkénti lebontás

4.1 konfiguráció (`open-sse/config/`)

Hitelesítési adatok betöltésének folyamata

4.2 Végrehajtók (`open-sse/executors/`)

4.3 Kezelők (`open-sse/handlers/`)

Életciklus kérése (chatCore.ts)

4.4 Szolgáltatások (`open-sse/services/`)

Token frissítési deduplikáció

Fiók tartalék állapotú gép

Kombinált modelllánc

4.5 Fordító (`open-sse/translator/`)

Építészet

Kulcstervezés: Önregisztráló beépülő modulok

4.6 Utils (`open-sse/utils/`)

SSE Streaming Pipeline

Kérjen naplózó munkamenet-struktúrát

4.7 Alkalmazási réteg (`src/`)

Figyelemre méltó API-útvonalak

5. Kulcsfontosságú tervezési minták

5.1 Hub-and-Spoke fordítás

5.2 Végrehajtó stratégia minta

5.3 Önregisztráló beépülő modulrendszer

5.4 Fiók visszaállítása exponenciális visszalépéssel

5.5 kombinált modellláncok

5.6 Állapotalapú adatfolyam-fordítás

5.7 Használati biztonsági puffer

6. Támogatott formátumok

7. Támogatott szolgáltatók

8. Adatfolyam összefoglalása

Streaming kérés

Nem streamelési kérelem

Bypass Flow (Claude CLI)

FilesExpand file tree

CODEBASE_DOCUMENTATION.md

Latest commit

History

CODEBASE_DOCUMENTATION.md

File metadata and controls

omniroute — Kódbázis-dokumentáció

1. Mi az omniroute?

2. Építészet áttekintése

Alapelv: Hub-and-spoke fordítás

3. Projekt felépítése

4. Modulonkénti lebontás

4.1 konfiguráció (open-sse/config/)

Hitelesítési adatok betöltésének folyamata

4.2 Végrehajtók (open-sse/executors/)

4.3 Kezelők (open-sse/handlers/)

Életciklus kérése (chatCore.ts)

4.4 Szolgáltatások (open-sse/services/)

Token frissítési deduplikáció

Fiók tartalék állapotú gép

Kombinált modelllánc

4.5 Fordító (open-sse/translator/)

Építészet

Kulcstervezés: Önregisztráló beépülő modulok

4.6 Utils (open-sse/utils/)

SSE Streaming Pipeline

Kérjen naplózó munkamenet-struktúrát

4.7 Alkalmazási réteg (src/)

Figyelemre méltó API-útvonalak

5. Kulcsfontosságú tervezési minták

5.1 Hub-and-Spoke fordítás

5.2 Végrehajtó stratégia minta

5.3 Önregisztráló beépülő modulrendszer

5.4 Fiók visszaállítása exponenciális visszalépéssel

5.5 kombinált modellláncok

5.6 Állapotalapú adatfolyam-fordítás

5.7 Használati biztonsági puffer

6. Támogatott formátumok

7. Támogatott szolgáltatók

8. Adatfolyam összefoglalása

Streaming kérés

Nem streamelési kérelem

Bypass Flow (Claude CLI)

4.1 konfiguráció (`open-sse/config/`)

4.2 Végrehajtók (`open-sse/executors/`)

4.3 Kezelők (`open-sse/handlers/`)

4.4 Szolgáltatások (`open-sse/services/`)

4.5 Fordító (`open-sse/translator/`)

4.6 Utils (`open-sse/utils/`)

4.7 Alkalmazási réteg (`src/`)