框架
WebLLM
WebLLM 是开源 AI 开发框架，2023 年推出，面向开发者。
借助 WebGPU 在浏览器里直接运行大模型的 JavaScript 引擎。
主打：大模型 API、本地运行模型。开源，可以免费使用。使用方式：网页版、本地离线运行。
这是 https://godooo.ai/zh/framework/webllm 的 Markdown 版本。本站每个页面都有：在地址后面加 .md。
速览
能做什么
大模型 API主打待校准
“WebLLM is fully compatible with OpenAI API.”— github.com, 2026-09-24
本地运行模型主打待校准
“WebLLM is a high-performance in-browser LLM inference engine that brings language model inference directly onto web browsers with hardware acceleration.”— github.com, 2026-09-24
对话问答支持待校准
“Supports streaming chat completions, allowing real-time output generation which enhances interactive applications like chatbots and virtual assistants.”— webllm.mlc.ai, 2026-09-24
待校准由机器提出，尚待校准
平替与同类
- Llama开源免费同样能做：大模型 API、对话问答、本地运行模型
- Qwen开源免费同样能做：大模型 API、对话问答、本地运行模型；不用写代码
- GLM开源免费同样能做：大模型 API、对话问答、本地运行模型
- Jan开源免费同样能做：对话问答、本地运行模型、大模型 API；不用写代码
- LocalAI开源免费同样能做：大模型 API、本地运行模型
- Mixtral开源免费同样能做：大模型 API、对话问答、本地运行模型
- Phi开源免费同样能做：对话问答、本地运行模型、大模型 API
- TextGen开源免费同样能做：对话问答、本地运行模型、大模型 API；不用写代码
- gpt-oss开源免费同样能做：本地运行模型、大模型 API、对话问答
- Kimi K2开源免费同样能做：大模型 API、对话问答、本地运行模型
- LLM开源免费同样能做：大模型 API、对话问答、本地运行模型
- LM Studio免费同样能做：本地运行模型、大模型 API、对话问答；不用写代码
关系
- 基于…构建
- MLC LLM
常见问题
WebLLM 是什么？
WebLLM 是开源 AI 开发框架，2023 年推出，面向开发者。借助 WebGPU 在浏览器里直接运行大模型的 JavaScript 引擎。
WebLLM 免费吗？
免费。WebLLM 是开源软件（Apache-2.0）。
WebLLM 开源吗？
开源，许可证是 Apache-2.0。源代码在 https://github.com/mlc-ai/web-llm。
WebLLM 能本地运行吗？
能，可以在自己的电脑上离线运行。
WebLLM 能做什么？
主打：大模型 API、本地运行模型。也能做：对话问答。
WebLLM 有哪些开源替代品？
开源的有：Llama、Qwen、GLM、Jan、LocalAI、Mixtral、Phi、TextGen。其他：LM Studio。
来源
- github.com/mlc-ai/web-llm核实于 2026-09-24
- webllm.mlc.ai/核实于 2026-09-24