# 在本地运行大模型

意图 · https://godooo.ai/zh/goal/run-llm-locally

> 「在本地运行大模型」需要：本地运行模型、模型下载与分享；可选：知识库检索、自主编程。

在自己电脑上离线、私密地使用开源大模型。

## 需要哪些能力

- **[本地运行模型](https://godooo.ai/zh/capability/local-inference)**: [Ollama](https://godooo.ai/zh/product/ollama), [Gemma](https://godooo.ai/zh/model/gemma), [llama.cpp](https://godooo.ai/zh/framework/llama-cpp), [LM Studio](https://godooo.ai/zh/product/lm-studio)
- **[模型下载与分享](https://godooo.ai/zh/capability/model-hub)**: [Hugging Face](https://godooo.ai/zh/product/huggingface), [ModelScope](https://godooo.ai/zh/product/modelscope), [Civitai](https://godooo.ai/zh/product/civitai), [LiblibAI 哩布哩布](https://godooo.ai/zh/product/liblib)
- **[知识库检索](https://godooo.ai/zh/capability/knowledge-base)** (可选): [Dify](https://godooo.ai/zh/product/dify), [LangChain](https://godooo.ai/zh/framework/langchain), [LlamaIndex](https://godooo.ai/zh/framework/llamaindex), [RAGFlow](https://godooo.ai/zh/product/ragflow)
- **[自主编程](https://godooo.ai/zh/capability/coding-agent)** (可选): [Cursor](https://godooo.ai/zh/product/cursor), [Claude Code](https://godooo.ai/zh/cli/claude-code), [GitHub Copilot](https://godooo.ai/zh/product/github-copilot), [Claude](https://godooo.ai/zh/model/claude)

## 相关

- **现成的配方:** [在笔记本上私密运行 AI](https://godooo.ai/zh/recipe/local-ai)

## 常见问题

### 在本地运行大模型 是什么？

在自己电脑上离线、私密地使用开源大模型。「在本地运行大模型」需要：本地运行模型、模型下载与分享；可选：知识库检索、自主编程。

### 「在本地运行大模型」需要哪些 AI 工具？

本地运行模型：Ollama、Gemma、llama.cpp、LM Studio；模型下载与分享：Hugging Face、ModelScope、Civitai、LiblibAI 哩布哩布；知识库检索：Dify、LangChain、LlamaIndex、RAGFlow；自主编程：Cursor、Claude Code、GitHub Copilot、Claude。

---

最后更新 2026-09-24 · 这是 https://godooo.ai/zh/goal/run-llm-locally 的 Markdown 版本。本站每个页面都有：在地址后面加 .md。