# exo

框架 · https://godooo.ai/zh/framework/exo

> exo 是开源 AI 开发框架，2024 年推出，面向开发者。

把自己的多台设备连成集群，在本地运行大模型的运行时。

主打：本地运行模型、模型推理部署。开源，可以免费使用。使用方式：本地离线运行、自部署、桌面应用、命令行、API。

## 速览

- **类别:** [框架](https://godooo.ai/zh/browse#framework)
- **推出于:** 2024
- **所属星系:** [模型与 API](https://godooo.ai/zh/galaxy/builders)
- **是否开源:** 是 · Apache-2.0
- **源代码:** [github.com/exo-explore/exo](https://github.com/exo-explore/exo)
- **GitHub 星标:** 47,626
- **使用方式:** 可离线本地运行 · 可自部署 · 桌面 · 命令行 · API
- **适合谁:** 开发者
- **支持的协议:** [OpenAI-compatible API](https://godooo.ai/zh/protocol/openai-compatible-api)
- **官网:** [github.com](https://github.com/exo-explore/exo)
- **别名:** exo labs

## 能做什么

- **[本地运行模型](https://godooo.ai/zh/capability/local-inference)** — 主打, _由机器提出，尚待校准_. “exo connects all your devices into an AI cluster.” (摘自 [github.com](https://github.com/exo-explore/exo)，2026-09-24)
- **[模型推理部署](https://godooo.ai/zh/capability/model-serving)** — 主打, _由机器提出，尚待校准_. “exo uses MLX as an inference backend and MLX distributed for distributed communication.” (摘自 [github.com](https://github.com/exo-explore/exo)，2026-09-24)
- **[大模型 API](https://godooo.ai/zh/capability/llm-api)** — 支持, _由机器提出，尚待校准_. “Compatible with OpenAI Chat Completions API, Claude Messages API, OpenAI Responses API, and Ollama API” (摘自 [github.com](https://github.com/exo-explore/exo)，2026-09-24)

## 平替与同类

- **[LocalAI](https://godooo.ai/zh/framework/localai)** (开源免费): 同样能做：大模型 API、本地运行模型、模型推理部署
- **[MLC LLM](https://godooo.ai/zh/framework/mlc-llm)** (开源免费): 同样能做：本地运行模型、模型推理部署、大模型 API
- **[Ollama](https://godooo.ai/zh/product/ollama)** (开源免费): 同样能做：本地运行模型、大模型 API、模型推理部署
- **[llama.cpp](https://godooo.ai/zh/framework/llama-cpp)** (开源免费): 同样能做：本地运行模型、模型推理部署
- **[WebLLM](https://godooo.ai/zh/framework/webllm)** (开源免费): 同样能做：大模型 API、本地运行模型
- **[LMDeploy](https://godooo.ai/zh/framework/lmdeploy)** (开源免费): 同样能做：大模型 API、模型推理部署
- **[Gemma](https://godooo.ai/zh/model/gemma)** (开源免费): 同样能做：本地运行模型、大模型 API
- **[vLLM](https://godooo.ai/zh/framework/vllm)** (开源免费): 同样能做：模型推理部署、大模型 API
- **[gpt-oss](https://godooo.ai/zh/model/gpt-oss)** (开源免费): 同样能做：本地运行模型、大模型 API
- **[Jan](https://godooo.ai/zh/product/jan)** (开源免费): 同样能做：本地运行模型、大模型 API；不用写代码
- **[LM Studio](https://godooo.ai/zh/product/lm-studio)** (免费): 同样能做：本地运行模型、大模型 API；不用写代码
- **[Phi](https://godooo.ai/zh/model/phi)** (开源免费): 同样能做：本地运行模型、大模型 API

## 关系

- **使用:** [MLX](https://godooo.ai/zh/framework/mlx)

## 常见问题

### exo 是什么？

exo 是开源 AI 开发框架，2024 年推出，面向开发者。把自己的多台设备连成集群，在本地运行大模型的运行时。

### exo 免费吗？

免费。exo 是开源软件（Apache-2.0）。

### exo 开源吗？

开源，许可证是 Apache-2.0。源代码在 https://github.com/exo-explore/exo。

### exo 能本地运行吗？

能，可以在自己的电脑上离线运行。也可以部署在自己的服务器上。

### exo 能做什么？

主打：本地运行模型、模型推理部署。也能做：大模型 API。

### exo 有哪些开源替代品？

开源的有：LocalAI、MLC LLM、Ollama、llama.cpp、WebLLM、LMDeploy、Gemma、vLLM。其他：LM Studio。

## 来源

- [github.com](https://github.com/exo-explore/exo) — 核实于 2026-09-24

---

最后更新 2026-09-24 · 来源核实于 2026-09-24 · 这是 https://godooo.ai/zh/framework/exo 的 Markdown 版本。本站每个页面都有：在地址后面加 .md。