Ollama本地部署开源大模型实战：免费跑起DeepSeek-R1的完整教程
引言：为什么越来越多人把大模型”搬回自己电脑”
云端AI虽好，但有三件事让人头疼：数据隐私（公司文件、个人笔记全要发给服务器）、按量付费（重度使用一个月几十上百元）、断网即失效。2026年，随着开源模型能力和量化技术的进步，一台普通电脑已经能流畅运行7B-32B级别的模型。本文带你用Ollama这个神器，把DeepSeek-R1等开源大模型免费部署到本地，全程可视化操作，小白也能照做。
第一步：确认硬件，选对模型
本地跑模型主要吃显存（GPU内存），没有独显也能跑，只是慢。先看你的配置，再对号入座选模型：
- 8GB显存（如RTX 4060）：推荐 7B-8B 量化模型，如 DeepSeek-R1-Distill-Qwen-7B、Qwen2.5-7B，日常问答、写作、翻译流畅够用。
- 16GB显存（如RTX 4080）：推荐 14B-32B 量化模型，如 Qwen2.5-14B、DeepSeek-R1-Distill-Qwen-14B，推理和代码能力明显更强。
- 24GB及以上显存：可尝试 32B-70B 量化模型，接近云端小模型的体验。
- 无独立显卡（纯CPU）：选 1.5B-7B 的小模型，速度较慢但能用，适合纯文本轻任务。
判断标准很简单：模型参数越大越聪明，但也越吃硬件。第一次尝试建议从7B量化版起步，跑通了再升级。
第二步：安装Ollama（三平台一条命令）
Ollama（ollama.com）是目前最省心的本地模型运行工具，自带模型管理、命令行和API服务。安装方式：
Windows: 到 ollama.com 下载 OllamaSetup.exe，双击安装即可 macOS: 下载 Ollama-darwin.zip，拖入应用程序文件夹 Linux: curl -fsSL https://ollama.com/install.sh | sh
装完后打开终端（Windows用PowerShell或CMD），输入 ollama --version 能看到版本号就说明装好了。Ollama安装后默认开机自启，会在后台启动一个本地服务，后面所有工具都通过这个服务调用模型。
第三步：下载并运行DeepSeek-R1
Ollama的模型仓库里收录了DeepSeek-R1的全系列蒸馏版本，一条命令即可下载运行：
# 下载并运行 7B 蒸馏版（8GB显存推荐） ollama run deepseek-r1:7b # 如果显存更大，可以换更大的版本 ollama run deepseek-r1:14b ollama run deepseek-r1:32b # 查看已安装的模型 ollama list # 删除不再用的模型 ollama rm deepseek-r1:7b
第一次运行会自动下载模型（7B版约4.7GB），之后就是纯本地运行、永久免费、断网可用。在终端里输入问题就能对话，输入 /bye 退出。注意：DeepSeek-R1是推理模型，回答前会有一小段”思考过程”，这是正常的，反而能帮你看到它的推理逻辑。
第四步：接入API，让所有工具都用上本地模型
命令行聊天只是开胃菜。Ollama自动启动了兼容OpenAI格式的API（默认地址 http://localhost:11434），意味着任何支持自定义API地址的AI工具都能接上你的本地模型：
- 聊天客户端：Chatbox、LobeChat、Cherry Studio等桌面应用，在设置里把API地址改成
http://localhost:11434，模型选 deepseek-r1:7b，即可获得图形化聊天界面。 - 知识库：AnythingLLM等工具支持把模型供应商设为Ollama，配合本地向量库，隐私数据全流程不出本机。
- 编辑器：VS Code的Continue、Cline等AI编程插件都支持Ollama，写代码时用本地模型做补全和解释，公司代码再也不怕泄露。
- 翻译工具：沉浸式翻译等浏览器插件可配置Ollama作为翻译引擎，浏览外文网页全程本地翻译。
用Python调用也极简单：pip install openai 后，把 base_url 设为 http://localhost:11434/v1 即可，代码和调用云端OpenAI一模一样。
第五步：性能调优与常见问题
- 显存不够/报错：模型会尝试用内存兜底，但速度骤降。换更小的量化版本（如 q4 版）或更小参数模型即可。查看模型占用：
ollama ps。 - 回答太慢：7B模型在8GB显存的显卡上约每秒生成20-40个token（约每秒十几到几十个汉字），属正常水平。想要更快只能换显卡或换小模型。
- 温度与创造力：想要更稳定的回答调低温度（API参数 temperature 0.3-0.7），想要更发散可以调高。命令行下用
ollama run deepseek-r1:7b --temperature 0.7指定。 - 开机自启太占资源：不用时在托盘退出Ollama即可，模型只在调用时才加载进内存。
- 中文效果：DeepSeek-R1蒸馏版和Qwen系列的中文能力都相当不错，日常中文写作、翻译、总结完全够用。
本地部署的定位提醒
客观说，本地7B模型的能力与云端顶级模型（如DeepSeek-V3、GPT-4级别）仍有明显差距，复杂推理、长文创作还是云端更强。最务实的方案是”混合使用”：日常隐私数据、轻量任务走本地，重活交给云端。这样既保住了隐私和钱包，又不牺牲质量。
从ollama run deepseek-r1:7b这第一行命令开始，你就拥有了一个永远在线、永远免费、完全私有的AI助手。动手试一下吧，装好那一刻的成就感，和当年自己组装第一台电脑时一模一样。
本文来源：https://www.kexuexiaozhou.cn（科学小舟 · AI运用与Skills）