Experiential Labs ha lanzado una puerta de enlace de modelos de código abierto en GitHub que proporciona un único plano de control para modelos cerrados, de código abierto, locales y personalizados. Construida en Rust para concurrencia, estandariza formatos de streaming, llamadas a herramientas, parámetros de modelos, límites de tasa y comportamiento de errores entre proveedores.

La puerta de enlace soporta cada proveedor de inferencia importante y más de 1000 modelos actualizados diariamente mediante un agente codex que abre pull requests. Añade menos de 1 ms para solicitudes BYOK y menos de 2 ms cuando Experiential proporciona la clave del proveedor. Los usuarios pueden implementarla en su propia infraestructura o usar la versión alojada en platform.experientiallabs.ai con cero markup.

A diferencia de la competencia, Experiential es de código abierto, no aplica markup, permite mezclar modelos locales con un marketplace y puede entrenar un modelo personalizado a partir de tráfico de producción opt-in. Las decisiones de enrutamiento usan trazas OTel estandarizadas, simulaciones mediante modelos de mundo de texto, un juez LLM y un clasificador de vecino más cercano en embeddings de prompts. Este enfoque puede ofrecer una mejor curva de Pareto costo/calidad que llamar a un solo modelo, mientras permite optimización de cache hit y sugerencias de nuevos modelos.

La plataforma alojada sirve tanto una API compatible con OpenAI como la API de Mensajes de Anthropic en https://api.experientiallabs.ai/v1, con prompts de onboarding que soportan Claude Code, Cursor, Codex, Aider y agentes de codificación similares.

Entidades clave: Empresas: Experiential Labs, GitHub, OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks, Open Router