意图
在本地运行大模型
「在本地运行大模型」需要:本地运行模型、模型下载与分享;可选:知识库检索、自主编程。
在自己电脑上离线、私密地使用开源大模型。
这是 https://godooo.ai/zh/goal/run-llm-locally 的 Markdown 版本。本站每个页面都有:在地址后面加 .md。
需要哪些能力
常见问题
在本地运行大模型 是什么?
在自己电脑上离线、私密地使用开源大模型。「在本地运行大模型」需要:本地运行模型、模型下载与分享;可选:知识库检索、自主编程。
「在本地运行大模型」需要哪些 AI 工具?
本地运行模型:Ollama、Gemma、llama.cpp、LM Studio;模型下载与分享:Hugging Face、ModelScope、Civitai、LiblibAI 哩布哩布;知识库检索:Dify、LangChain、LlamaIndex、RAGFlow;自主编程:Cursor、Claude Code、GitHub Copilot、Claude。