框架
exo
exo 是开源 AI 开发框架，2024 年推出，面向开发者。
把自己的多台设备连成集群，在本地运行大模型的运行时。
主打：本地运行模型、模型推理部署。开源，可以免费使用。使用方式：本地离线运行、自部署、桌面应用、命令行、API。
这是 https://godooo.ai/zh/framework/exo 的 Markdown 版本。本站每个页面都有：在地址后面加 .md。
速览
能做什么
本地运行模型主打待校准
“exo connects all your devices into an AI cluster.”— github.com, 2026-09-24
模型推理部署主打待校准
“exo uses MLX as an inference backend and MLX distributed for distributed communication.”— github.com, 2026-09-24
大模型 API支持待校准
“Compatible with OpenAI Chat Completions API, Claude Messages API, OpenAI Responses API, and Ollama API”— github.com, 2026-09-24
待校准由机器提出，尚待校准
平替与同类
- LocalAI开源免费同样能做：大模型 API、本地运行模型、模型推理部署
- MLC LLM开源免费同样能做：本地运行模型、模型推理部署、大模型 API
- Ollama开源免费同样能做：本地运行模型、大模型 API、模型推理部署
- llama.cpp开源免费同样能做：本地运行模型、模型推理部署
- WebLLM开源免费同样能做：大模型 API、本地运行模型
- LMDeploy开源免费同样能做：大模型 API、模型推理部署
- Gemma开源免费同样能做：本地运行模型、大模型 API
- vLLM开源免费同样能做：模型推理部署、大模型 API
- gpt-oss开源免费同样能做：本地运行模型、大模型 API
- Jan开源免费同样能做：本地运行模型、大模型 API；不用写代码
- LM Studio免费同样能做：本地运行模型、大模型 API；不用写代码
- Phi开源免费同样能做：本地运行模型、大模型 API
关系
- 使用
- MLX
常见问题
exo 是什么？
exo 是开源 AI 开发框架，2024 年推出，面向开发者。把自己的多台设备连成集群，在本地运行大模型的运行时。
exo 免费吗？
免费。exo 是开源软件（Apache-2.0）。
exo 开源吗？
开源，许可证是 Apache-2.0。源代码在 https://github.com/exo-explore/exo。
exo 能本地运行吗？
能，可以在自己的电脑上离线运行。也可以部署在自己的服务器上。
exo 能做什么？
主打：本地运行模型、模型推理部署。也能做：大模型 API。
exo 有哪些开源替代品？
开源的有：LocalAI、MLC LLM、Ollama、llama.cpp、WebLLM、LMDeploy、Gemma、vLLM。其他：LM Studio。
来源
- github.com/exo-explore/exo核实于 2026-09-24