能力
本地运行模型
本地运行模型：图谱里有 41 个 AI 工具能做，包括 Ollama、Gemma、llama.cpp、LM Studio、gpt-oss。
下载开源模型，在自己电脑上离线、私密地运行。
输入 文本 → 输出 文本
这是 https://godooo.ai/zh/capability/local-inference 的 Markdown 版本。本站每个页面都有：在地址后面加 .md。
能做的工具 · 41
| 工具 | 程度 | 价格 | 是否开源 | 使用方式 |
|---|---|---|---|---|
| Ollama产品 | 主打 * | 开源免费 | 是 | 桌面 · 命令行 · API · 可自部署 · 可离线本地运行 |
| Gemma模型 | 主打 * | 是 | 网页 · API · 可离线本地运行 · 可自部署 | |
| llama.cpp框架 | 主打 * | 是 | 命令行 · API · 可自部署 · 可离线本地运行 | |
| LM Studio产品 | 主打 * | 免费 | 桌面 · 可离线本地运行 · API · 命令行 | |
| gpt-oss模型 | 主打 * | 是 | API · 可自部署 · 可离线本地运行 · 命令行 | |
| Phi模型 | 主打 * | 是 | API · 可离线本地运行 · 可自部署 | |
| MLX框架 | 主打 * | 是 | 可离线本地运行 · API · 命令行 · 可自部署 | |
| Jan产品 | 主打 * | 开源免费 | 是 | 桌面 · 可离线本地运行 · API · 可自部署 |
| LocalAI框架 | 主打 * | 是 | 可自部署 · 可离线本地运行 · API · 命令行 | |
| TextGen产品 | 主打 * | 开源免费 | 是 | 桌面 · 网页 · 可自部署 · 可离线本地运行 · API |
| MLC LLM框架 | 主打 * | 是 | 网页 · 桌面 · 手机 · 命令行 · API · 可自部署 · 可离线本地运行 | |
| WebLLM框架 | 主打 * | 是 | 网页 · 可离线本地运行 | |
| exo框架 | 主打 * | 是 | 可离线本地运行 · 可自部署 · 桌面 · 命令行 · API | |
| llamafile框架 | 主打 * | 是 | 可离线本地运行 · 命令行 · API · 可自部署 | |
| Apple Foundation Models模型 | 主打 * | API · 可离线本地运行 | ||
| Llama模型 | 支持 | 是 | API · 可离线本地运行 · 可自部署 | |
| DeepSeek-R1模型 | 支持 * | 是 | 网页 · API · 可自部署 · 可离线本地运行 | |
| Transformers框架 | 支持 * | 是 | 可离线本地运行 · 可自部署 · 命令行 · API | |
| Stable Diffusion模型 | 支持 * | 是 | 可自部署 · 可离线本地运行 · API · 命令行 | |
| ComfyUI产品 | 支持 | 开源免费 | 是 | 桌面 · 网页 · API · 可自部署 · 可离线本地运行 · 命令行 |
| GPT-2模型 | 支持 * | 是 | 可自部署 · 可离线本地运行 · API | |
| Whisper模型 | 支持 * | 是 | 命令行 · API · 可自部署 · 可离线本地运行 | |
| Qwen模型 | 支持 | 是 | 网页 · API · 可自部署 · 可离线本地运行 | |
| DeepSeek-V3模型 | 支持 * | 是 | API · 可离线本地运行 · 可自部署 | |
| Mistral模型 | 支持 | 是 | API · 可自部署 · 可离线本地运行 | |
| Open WebUI产品 | 支持 * | 开源免费 | 是 | 网页 · 可自部署 · 可离线本地运行 · API |
| DeepSeek-V2模型 | 支持 * | 是 | API · 网页 · 可离线本地运行 · 可自部署 | |
| GLM模型 | 支持 * | 是 | API · 可离线本地运行 · 可自部署 | |
| Mixtral模型 | 支持 * | 是 | API · 可离线本地运行 · 可自部署 | |
| OLMo模型 | 支持 * | 是 | 网页 · API · 可离线本地运行 · 可自部署 | |
| GPT-J模型 | 支持 * | 是 | 可离线本地运行 · API · 可自部署 | |
| LLM命令行工具 | 支持 * | 是 | 命令行 · API · 可离线本地运行 · 可自部署 | |
| AnythingLLM产品 | 支持 * | 开源免费 | 是 | 网页 · 桌面 · 可自部署 · API · 可离线本地运行 |
| Chatbox产品 | 支持 * | 开源免费 | 是 | 桌面 · 网页 · 手机 · 可离线本地运行 |
| Cherry Studio产品 | 支持 * | 开源免费 | 是 | 桌面 · 可离线本地运行 · 可自部署 |
| Langchain-Chatchat产品 | 支持 * | 开源免费 | 是 | 可自部署 · 可离线本地运行 · API |
| whisper.cpp框架 | 支持 * | 是 | 可离线本地运行 · 可自部署 · 命令行 · API | |
| Unsloth框架 | 支持 * | 是 | 可离线本地运行 · 桌面 · 命令行 · API · 可自部署 | |
| Yi模型 | 支持 * | 是 | API · 可自部署 · 可离线本地运行 · 命令行 | |
| Falcon模型 | 支持 * | 是 | API · 可自部署 · 可离线本地运行 | |
| Kimi K2模型 | 凑合能用 * | 是 | API · 可自部署 · 可离线本地运行 |
* 由机器提出，尚待校准
常见问题
本地运行模型 是什么？
下载开源模型，在自己电脑上离线、私密地运行。本地运行模型：图谱里有 41 个 AI 工具能做，包括 Ollama、Gemma、llama.cpp、LM Studio、gpt-oss。
哪些工具主打「本地运行模型」？
Ollama、Gemma、llama.cpp、LM Studio、gpt-oss、Phi、MLX、Jan。
有免费的「本地运行模型」工具吗？
Ollama、Gemma、llama.cpp、LM Studio、gpt-oss、Phi、MLX、Jan。
哪些开源工具能做「本地运行模型」？
Ollama、Gemma、llama.cpp、gpt-oss、Phi、MLX、Jan、LocalAI。
哪些「本地运行模型」工具能离线运行？
Ollama、Gemma、llama.cpp、LM Studio、gpt-oss、Phi、MLX、Jan。