能解决什么问题?
你是不是也遇到过这些情况:想用 DeepSeek 写点东西,结果网页版排队等半天;公司内网不让访问外部 AI 服务;担心聊天记录泄露,想有个完全离线的助手。本地部署 DeepSeek 就是把这些麻烦一次性解决掉:数据不出电脑,断网也能用,想怎么调教就怎么调教。
但一提本地部署,很多人第一反应是「要配环境、装驱动、编译源码」,头都大了。其实现在用 Ollama 这个国产友好的工具,基本就是「下载 → 双击 → 敲一行命令」的节奏。我实测在 Windows 和 macOS 上都能十分钟内跑起来,下面把完整过程拆开讲。
准备工作:先搞定入口和硬件
1. 注册/下载 Ollama
打开浏览器搜索「Ollama 官网」,进入后点「Download」按钮。国内直连速度还可以,如果慢就换到它的 GitHub Release 页面下载。Windows 选 .exe,macOS 选 .dmg,Linux 用终端命令装。下载完双击安装,一路「下一步」就行。
2. 检查电脑配置
DeepSeek 有不同大小的模型版本,对硬件要求差很多。一般来说:
- 8GB 内存:只能跑 1.5B 或 7B 的量化版,勉强能用。
- 16GB 内存:跑 7B 或 8B 比较舒服,14B 要关掉其他程序。
- 32GB 以上 + 独立显卡(显存 8GB+):可以挑战 14B、32B 甚至更大。
- 如果只有核显,建议先试 1.5B 或 7B 量化版,别硬上大模型。
3. 确认网络和磁盘
下载模型需要联网,模型文件从几个 GB 到几十 GB 不等,提前留出足够空间。建议放在固态硬盘上,加载速度会快不少。
分步骤实操:跟着做就能跑通
第 1 步:安装并启动 Ollama
Windows 双击安装包,装完在开始菜单里找到 Ollama 图标点开。它会在后台常驻,右下角任务栏出现一个小羊驼图标就说明运行中。macOS 装完直接在「应用程序」里打开,菜单栏会多一个图标。Linux 在终端输入安装命令后,用 systemctl 启动服务。
第 2 步:打开终端/命令行
Windows 按 Win+R 输入 cmd 回车;macOS 打开「终端」;Linux 直接开终端。这是后面敲命令的地方。
第 3 步:拉取 DeepSeek 模型
在终端里输入下面这行命令,然后回车:
ollama run deepseek-r1:7b
解释一下:ollama run 是运行命令,deepseek-r1 是模型名,冒号后面的 7b 是版本大小。第一次运行会自动从网上拉取模型文件,终端里会显示下载进度条。文件大概 4-5GB,看网速,几分钟到十几分钟不等。如果卡住不动,按 Ctrl+C 取消,重新执行一次通常能续传。
想让下载更稳,可以先单独拉取:
ollama pull deepseek-r1:7b
下载完再用 run 命令启动。
第 4 步:开始对话
模型加载完成后,终端会出现「>>>」提示符,直接输入问题回车。比如输入「用 Python 写一个快速排序」,它就会在终端里一行行输出代码。想退出对话,输入 /bye 回车即可。
第 5 步:换个更好用的聊天界面(可选)
终端里聊天不太方便,可以装个图形界面。推荐用 Open WebUI 或 Chatbox 这类国内能直连的工具。以 Chatbox 为例:去官网下载安装包,打开后选择「Ollama」作为模型来源,地址填 http://localhost:11434,软件会自动列出你已经拉取的模型,点一下就能在漂亮界面里聊了。Open WebUI 稍微复杂点,需要 Docker,但功能更全,支持多轮对话、文件上传。
进阶技巧:让本地 DeepSeek 更好用
| 技巧 | 怎么做 | 效果 |
|---|---|---|
| 选对模型版本 | 用 ollama list 看已有模型,用 ollama run deepseek-r1:1.5b 跑小模型 | 老电脑也能流畅对话 |
| 控制显存占用 | 启动时加参数:ollama run deepseek-r1:7b --num-gpu 20 | 把部分层放 GPU,速度更快 |
| 修改模型存储路径 | 设置环境变量 OLLAMA_MODELS 指向大容量磁盘 | 避免 C 盘被撑爆 |
| 自定义系统提示词 | 创建 Modelfile,写入 SYSTEM 指令后 ollama create 新模型 | 让 AI 固定用某种风格回答 |
| 局域网共享 | 启动时设置 OLLAMA_HOST=0.0.0.0,其他设备用本机 IP 访问 | 手机、平板也能用 |
这些技巧不用一次全上,先跑通基础版,再按需折腾。比如你发现回答速度慢,就优先调显存参数;想固定人设,再碰 Modelfile。
常见问题
Q1:下载模型时一直卡住或报错怎么办?
先检查网络,Ollama 默认从海外源拉取,国内有时不稳定。可以试试用手机热点,或者手动设置镜像源(在环境变量里加 OLLAMA_HOST 指向国内镜像)。如果提示磁盘空间不足,清理一下再重试。实在不行,换小一点的模型版本,比如从 7b 换成 1.5b。
Q2:运行起来特别慢,风扇狂转,正常吗?
正常。本地跑大模型很吃 CPU 和内存,如果没独显,7B 模型每秒可能只输出几个字。解决办法:关掉其他占资源的程序;换更小的模型;或者加 --num-gpu 参数把部分计算交给显卡。如果电脑太老,建议直接用网页版 DeepSeek,别为难自己。
Q3:为什么我的 DeepSeek 回答质量不如网页版?
本地跑的是量化压缩版,参数规模也小,能力自然会打折扣。网页版背后是几百 B 的大模型,本地 7B 比不了。想要更好效果,可以试 14B 或 32B 版本,但硬件要求也高。日常问答、写代码片段,7B 够用了;专业任务还是建议用在线版。
智库妙影 AI数字人
智库创课 AI课件
智库GEO AI搜索优化
智库妙鉴 AI命理文化
Agent社区 智能体交流
智影新媒体OS 新媒体创作
辽公网安备21021102001760号