Experiential Labs已在GitHub上发布了一个开源模型网关，该网关为闭源、开源、本地和自定义模型提供了单一控制平面。该网关采用Rust构建以实现并发性，它跨提供商标准化了流式传输格式、工具调用、模型参数、速率限制和错误行为。

该网关支持每一个主要推理提供商和1000+模型，通过一个每日打开拉取请求的codex代理进行刷新。对于BYOK请求，它增加的延迟不到1毫秒；当Experiential提供提供商密钥时，延迟不到2毫秒。用户可以在自己的基础设施上部署它，或使用托管版本platform.experientiallabs.ai，且零加价。

与竞争对手不同，Experiential是开源的，不收取加价，允许将本地模型与市场模型混合使用，并能从选择加入的生产流量中训练自定义模型。路由决策使用标准化的OTel追踪、通过文本世界模型进行的模拟推演、LLM裁判和提示嵌入上的最近邻分类器。与单模型调用相比，这种方法可以提供更好的成本/质量帕累托曲线，同时还能实现缓存命中优化和新模型推荐。

托管平台在https://api.experientiallabs.ai/v1同时提供OpenAI兼容和Anthropic Messages API，入职提示支持Claude Code、Cursor、Codex、Aider和类似的编码代理。

关键实体：公司：Experiential Labs、GitHub、OpenAI、Anthropic、Gemini、Azure、Bedrock、Fireworks、Open Router