LiteLLM vs vLLM：怎么选
LiteLLM vs vLLM：综合评分 4.2 vs 4.4，AI 编程方向横向对比。LiteLLM：MIT 开源 LLM 网关——SDK + Proxy 双形态，100+ 厂商统一 OpenAI 接口 + 虚拟 Key + 团队预算。
快速结论
LiteLLM 和 vLLM 综合评分接近（4.2 vs 4.4），两者能力在同一梯队，选择主要看场景而非能力差距。
追求最强能力、预算充足的编程团队，选 vLLM——综合能力更强，适合重度使用场景。
两者都支持中文和国内访问，国内用户无障碍使用，选谁看具体功能偏好。
| 评分维度 | LiteLLM | vLLM |
|---|---|---|
| 性能 | 5.0 | 5.0 |
| 体验 | 4.0 | 4.0 |
| 价格 | 5.0 | 5.0 |
| 中文支持 | 3.0 | 4.0 |
| 稳定性 | 4.0 | 4.0 |
| 维度 | LiteLLM | vLLM |
|---|---|---|
| 一句话定位 | MIT 开源 LLM 网关——SDK + Proxy 双形态，100+ 厂商统一 OpenAI 接口 + 虚拟 Key + 团队预算 | Apache-2.0 开源高吞吐推理引擎——PagedAttention 显存分页 + 连续批处理，一行命令起 OpenAI 兼容服务，吃满 GPU |
| 价格 | MIT 开源免费 / Enterprise SaaS 定制 | Apache-2.0 开源免费 / 仅自付 GPU 算力 |
| 平台 | sdk, proxy, docker, kubernetes | server, docker, kubernetes, python, linux |
| 开源 | ||
| 可自托管 | ||
| 中文友好（1-5） | 3 | 3 |
| 编辑结论 | 想要『SaaS 体验 + 完全自托管』的开源 LLM 网关首选。组合『LiteLLM 网关 + Helicone/Langfuse 观测』在中大型 dev org 是黄金组合。中文中转 + 业务支付走 one-api。 | 要把开源权重变成「能扛流量的 API 服务」，vLLM 是当前默认答案。配合 LiteLLM 做统一网关 / 配合 Ollama 做本地轻量推理是最常见组合；想要零运维的托管推理走云厂商，想要单卡本机跑小模型走 Ollama。 |
One API vs LiteLLM：大模型 API 网关怎么选（2026）
One API 与 LiteLLM 都能统一管理多家大模型 API。一句话结论 + 决策树 + 成本对比：要中文管理界面与分发 key 选前者，要 Python 生态与 SDK 级统一选后者。
OpenRouter vs LiteLLM：LLM API 网关怎么选？SaaS 聚合 vs 开源自托管
OpenRouter vs LiteLLM 2026 选型对比：从模型数量、自托管能力、fallback 策略、虚拟 Key、国内延迟、成本结构和适合人群判断，帮你决定用 SaaS 聚合 OpenRouter 还是用开源自托管 LiteLLM 做 LLM 网关。
vLLM vs Ollama：本地推理引擎与本地模型运行时怎么选（2026）
vLLM 是高吞吐推理引擎，Ollama 是开箱即用的本地模型运行时。一句话结论 + 决策树 + 成本对比：要生产级吞吐与并发选 vLLM，要个人本地快速跑起来选 Ollama。
Dify 私有部署 1 个月运营记：从装到生产的所有坑
Dify 私有部署 2026 实战记录：我们用 Docker Compose 部署、接 OpenAI / Ollama / vLLM 模型、调 RAG（chunk / embedding / rerank）、跑通 1 个月生产，整理部署架构、模型接入、成本账单和踩坑合集。
LLM API 网关实测：OpenRouter vs Portkey vs 自建 LiteLLM
三种 LLM API 统一方案对比——OpenRouter 托管聚合、Portkey Gateway + fallback、自建 LiteLLM。同一个多模型应用跑 2 周，记录延迟、成本、可靠性与接入配置。