Experiential Labs telah merilis gateway model open source di GitHub yang menyediakan single control plane untuk model tertutup, open-source, lokal, dan kustom. Dibangun dengan Rust untuk konkurensi, ia menstandarkan format streaming, pemanggilan tool, parameter model, rate limit, dan perilaku error di seluruh penyedia.

Gateway ini mendukung setiap penyedia inferensi utama dan 1000+ model yang direfresh harian via agent codex yang membuka pull request. Menambahkan di bawah 1 ms untuk request BYOK dan di bawah 2 ms saat Experiential menyediakan kunci penyedia. Pengguna dapat mendeploy di infrastruktur sendiri atau menggunakan versi hosted di platform.experientiallabs.ai dengan zero markup.

Berbeda dengan kompetitor, Experiential bersifat open source, tidak mengambil markup, mengizinkan mencampur model lokal dengan marketplace, dan dapat melatih model kustom dari traffic produksi opt-in. Keputusan routing menggunakan OTel traces terstandarisasi, simulated rollouts via text world models, LLM judge, dan nearest-neighbor classifier pada prompt embeddings. Pendekatan ini dapat memberikan kurva Pareto biaya/kualitas yang lebih baik dibanding single-model calling, sambil mengaktifkan cache hit optimization dan saran model baru.

Platform hosted menyajikan OpenAI-compatible dan Anthropic Messages API di https://api.experientiallabs.ai/v1, dengan onboarding prompts yang mendukung Claude Code, Cursor, Codex, Aider, dan coding agent serupa.

Entitas Kunci: Perusahaan: Experiential Labs, GitHub, OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks, Open Router