能解决什么问题？

你有没有遇到过这些情况：公司内部文档太多，想查个资料得翻半天；网上搜到的答案不够精准，还夹带广告；把敏感文件传给在线AI又担心泄密。本地知识库+私人AI问答就能解决这些痛点。

简单说，就是把你自己的文档（PDF、Word、TXT等）喂给一个本地运行的AI模型，让它基于你的资料回答问题。所有数据都存在你自己电脑上，不联网也能用（或只连国内可访问的模型接口），安全又私密。

准备工作（注册/入口）

搭建本地知识库主要有两种路线：

• 纯本地路线：用Ollama下载开源模型（如Qwen、ChatGLM），配合AnythingLLM或Dify等知识库工具。完全离线，适合对隐私要求极高的场景。
• 混合路线：用Dify、FastGPT等国产平台，知识库本地部署，但调用国内大模型API（如通义千问、智谱清言、DeepSeek）。需要注册对应平台账号并获取API Key，但速度快、效果更好。

本教程以Dify + 国内大模型API为例，兼顾易用性和效果。你需要：

1. 一台电脑（Windows/Mac均可，建议8GB以上内存）。
2. 安装Docker（去Docker官网下载桌面版，国内可用阿里云镜像加速）。
3. 注册一个国内大模型平台账号，比如智谱AI开放平台或阿里云百炼，获取API Key。
4. 下载Dify的社区版安装包（GitHub搜索Dify，或访问其官网）。

提示：如果完全不想写代码，也可以直接用AnythingLLM桌面版，它内置了本地模型和知识库功能，下载即用，但中文文档解析能力稍弱。

分步骤实操

步骤1：安装并启动Dify

下载Dify的Docker Compose文件后，打开终端（Windows用PowerShell），进入Dify目录，输入：docker compose up -d。等待几分钟，看到所有容器状态为running，就成功了。然后在浏览器打开http://localhost:3000，首次访问需要设置管理员账号和密码。

步骤2：配置模型供应商

登录Dify后，点击右上角头像 → 设置 → 模型供应商。找到智谱AI或通义千问，点击“添加模型”。把你在对应平台申请的API Key粘贴进去，保存。Dify会自动拉取可用模型列表，选一个性价比高的，比如glm-4-flash或qwen-turbo。

步骤3：创建知识库

点击顶部导航知识库 → 创建知识库。输入名称，比如“公司制度库”。然后上传你的文档：支持PDF、Word、TXT、Markdown等。上传后，Dify会提示你选择分段方式，一般选自动分段即可。点击“下一步”，等待索引完成（右上角有进度提示）。

步骤4：创建AI问答应用

点击工作室 → 创建应用 → 选择聊天助手。输入应用名称，比如“制度小助手”。在编排页面，找到上下文区域，点击“添加”并选择刚才创建的知识库。然后在下方的提示词框里写一句指令，例如：“你是一个公司制度问答助手，请根据知识库内容回答，不知道就说不知道。”

步骤5：测试与发布

在右侧预览窗口直接提问，比如“年假怎么休？”。如果回答准确，就点击右上角发布。之后你可以通过生成的链接访问，也可以嵌入到飞书、钉钉等国内办公工具中。

进阶技巧

常见问题

Q1：我的电脑配置不高，能跑本地模型吗？

如果只有8GB内存，建议用混合路线（调用国内API），本地只跑知识库检索，压力小。纯本地模型至少需要16GB内存，且最好有独立显卡。也可以选择量化版小模型，如Qwen2.5-1.5B，但回答质量会下降。

Q2：上传的文档格式不支持怎么办？

Dify支持常见格式，但扫描版PDF（图片型）无法直接解析。你可以先用国内OCR工具（如WPS的PDF转文字、百度OCR）转换成文本，再上传。另外，表格复杂的Excel建议另存为CSV或Markdown表格。

Q3：为什么AI回答不准确？

首先检查知识库里是否有相关内容；其次，在应用编排里把“召回数量”调大（比如从3调到5），让AI看到更多段落；最后，优化提示词，明确要求“只根据知识库回答”。如果还不行，考虑换一个更强的模型。