框架
LiteLLM
LiteLLM 是开源 AI 开发框架,2023 年推出,面向开发者、企业。
用统一的 OpenAI 兼容格式调用上百种大模型 API 的代理服务和 Python SDK。
主打:多模型统一接入、大模型 API。开源,可以免费使用。使用方式:自部署、API、命令行。
这是 https://godooo.ai/zh/framework/litellm 的 Markdown 版本。本站每个页面都有:在地址后面加 .md。
速览
能做什么
多模型统一接入主打待校准
“LiteLLM is an open source AI Gateway that gives you a single, unified interface to call 100+ LLM providers”— github.com, 2026-09-24
大模型 API主打待校准
“Call any LLM in OpenAI format.”— github.com, 2026-09-24
待校准由机器提出,尚待校准
平替与同类
- OpenRouter免费版 + 付费升级同样能做:多模型统一接入、大模型 API
- AI SDK开源免费同样能做:多模型统一接入、大模型 API
- One API开源免费同样能做:多模型统一接入、大模型 API
- LLM开源免费同样能做:大模型 API、多模型统一接入;可离线本地运行
- Together AI付费同样能做:大模型 API、多模型统一接入
- Claude同样能做:大模型 API;不用写代码
- Gemini同样能做:大模型 API;不用写代码
- GPT同样能做:大模型 API;不用写代码
- GPT-3同样能做:大模型 API
- GPT-4同样能做:大模型 API;不用写代码
- Hugging Face免费版 + 付费升级同样能做:多模型统一接入、大模型 API;可离线本地运行
- Llama开源免费同样能做:大模型 API;可离线本地运行
常见问题
LiteLLM 是什么?
LiteLLM 是开源 AI 开发框架,2023 年推出,面向开发者、企业。用统一的 OpenAI 兼容格式调用上百种大模型 API 的代理服务和 Python SDK。
LiteLLM 免费吗?
免费。LiteLLM 是开源软件。
LiteLLM 开源吗?
开源。源代码在 https://github.com/BerriAI/litellm。
LiteLLM 能本地运行吗?
可以部署在自己的服务器上。
LiteLLM 能做什么?
主打:多模型统一接入、大模型 API。
LiteLLM 有哪些开源替代品?
开源的有:AI SDK、One API、LLM、Llama。其他:OpenRouter、Together AI、Claude、Gemini、GPT、GPT-3。
来源
- github.com/BerriAI/litellm核实于 2026-09-24
- docs.litellm.ai/docs