litellm 的路由与翻译功能约 2,900 行代码、2 个依赖（openai、httpx）。litellm 跨提供商路由 LLM 调用并在消息格式之间进行转换。该核心被埋没在 100k+ 行代码的代理服务器、缓存层、成本追踪以及大多数用户从未接触的数十个功能之下。

litelm 仅提取调用路径——模型路由、消息翻译、流式传输、工具使用、嵌入——别无其他。没有 Router 类，没有代理，没有缓存。安装：pip install litelm # openai + httpx；pip install litelm[anthropic] # + anthropic SDK；pip install litelm[bedrock] # + boto3；pip install litelm[all] # 全部。

用法：import litelm; response = litelm.completion("openai/gpt-4o", messages=[{"role": "user", "content": "Hello!"}])。每个函数都有异步变体：acompletion、aembedding、aresponses、atext_completion。API 镜像 litellm——相同的函数名、相同的参数、相同的响应类型。切换只需在导入中将 s/litellm/litelm/。

包含内容：模型路由、消息翻译（Anthropic、Bedrock、Cloudflare、Mistral）、流式传输 + stream_chunk_builder、工具使用、嵌入、文本补全、OpenAI Responses API、模拟响应。不包含内容：Router（负载均衡、回退）、代理服务器、缓存/预算/成本追踪、令牌计数、图像生成、音频、OCR、微调、代理、护栏、调度器。通过 "provider/model-name" 语法路由到 19 个提供商。任何 OpenAI 兼容端点均可通过 api_base 使用。所有提供商错误映射到 litelm 的异常层次结构。litelm 是人类指导、AI 辅助的软件。

关键实体：公司：litellm、litelm、OpenAI、Anthropic、Groq、Mistral、xAI、OpenRouter、Azure、Bedrock、Cloudflare、Together、Fireworks、DeepSeek、Perplexity、DeepInfra、Gemini、Cohere、Ollama、NovLLM、LM Studio、vLLM | 地点：Paris

FAQ：什么是 litelm？

litelm 是 litellm 核心路由和翻译功能的轻量级提取，由约 2,900 行代码和 2 个依赖（openai、httpx）组成。它提供模型路由、消息翻译、流式传输、工具使用和嵌入，而没有 litellm 中的代理服务器、缓存、成本追踪或其他功能。

FAQ 问题：什么是 litelm？

FAQ 答案：litelm 是 litellm 核心路由和翻译功能的轻量级提取，由约 2,900 行代码和 2 个依赖（openai、httpx）组成。它提供模型路由、消息翻译、流式传输、工具使用和嵌入，而没有 litellm 中的代理服务器、缓存、成本追踪或其他功能。