FastGPT 怎么用?开源知识库问答系统搭建
一、FastGPT 能解决什么问题?
很多团队都有这样的困扰:内部文档散落在各个网盘、Wiki 和聊天记录里,新人问个问题要翻半天;客服每天重复回答相同的基础问题;积累的行业资料想用 AI 问答,又担心数据传到外部不安全。FastGPT 就是为解决这类问题而生的开源知识库问答系统。
它基于大语言模型和 RAG(检索增强生成)技术,让你上传自己的文档(Word、PDF、Markdown、TXT 等),然后通过对话方式精准检索并回答。你可以把它理解成一个“私有化的 ChatGPT + 知识库”。核心能力包括:
- 自动切分和向量化文档,支持多种格式导入
- 基于知识库的问答,回答附带引用来源
- 可视化工作流编排,可以串联多个步骤
- 提供 API 接口,方便嵌入到自己的网站或应用
- 支持本地部署,数据完全掌握在自己手里
相比直接调 API 拼一个问答机器人,FastGPT 已经把知识库管理、对话界面、权限控制都做好了,开箱即用,省去大量开发时间。
二、准备工作:注册与入口
FastGPT 有两种使用方式:在线版和本地部署版。在线版适合快速体验,本地部署适合对数据安全要求高的团队。
在线版入口:直接访问 FastGPT 官网,注册账号后即可进入控制台。国内网络可以直接访问,注册需要手机号或邮箱。
本地部署版:需要一台 Linux 服务器(推荐 4 核 8G 以上),安装 Docker 和 Docker Compose。如果只是测试,Windows 或 Mac 电脑装 Docker Desktop 也能跑。此外还需要准备大模型 API Key,比如智谱 AI、通义千问、DeepSeek 等国内可直连的模型服务,或者自己部署开源模型。
提示:如果你不想折腾服务器,先用在线版跑通流程,再考虑本地部署,这样学习成本最低。
三、分步骤实操:从零搭建知识库问答
下面以在线版为例,步骤在本地部署版中基本一致。
步骤 1:登录并进入工作台
打开 FastGPT 官网,点击右上角“登录/注册”,用手机号或邮箱完成注册。登录后你会看到工作台首页,左侧是导航栏,包含“应用”“知识库”“数据集”等菜单。
步骤 2:配置模型渠道
首次使用需要配置大模型。点击左侧“账号”或“模型配置”,选择“模型提供商”,添加你的 API Key。以智谱 AI 为例,在提供商列表中选择“智谱 AI”,粘贴你在智谱开放平台申请的 API Key,然后点击“保存”。系统会自动测试连接,显示“连接成功”即可。如果需要向量模型,同样在这里配置,或者使用 FastGPT 内置的默认向量模型。
步骤 3:创建知识库
点击左侧导航栏的“知识库”,然后点击“新建知识库”。在弹出的窗口中填写:
- 知识库名称:比如“产品手册”
- 向量模型:选择刚刚配置的模型,或默认模型
- 其他选项保持默认
点击“创建”后,进入知识库详情页。这里你可以看到“导入数据”按钮。
步骤 4:上传文档
点击“导入数据”,选择“本地文件”或“文本输入”。支持批量上传 PDF、Word、Markdown、TXT 等格式。上传后,系统会自动进行文本提取和切分。你可以在“数据集”里看到处理进度,通常几十页文档几分钟就能完成。如果文档有特殊格式,可以调整“分块大小”和“重叠大小”,一般保持默认即可。
步骤 5:创建问答应用
回到左侧导航,点击“应用”,然后点击“新建应用”。选择“知识库问答”模板,填写应用名称,比如“产品客服助手”。创建后进入应用编排页面。在“知识库”区域,点击“选择知识库”,勾选刚才创建的知识库。这样应用就能检索到你的文档了。
步骤 6:调试与发布
在应用编排页面右侧,有一个对话预览窗口。输入一个你文档里有的问题,比如“产品保修期是多久?”,点击发送。如果回答正确,并且下方显示“引用来源”,说明配置成功。你可以调整“温度”参数来控制回答的随机性,温度越低回答越稳定。调试满意后,点击右上角“发布”,应用就上线了。你可以通过分享链接或 API 接口,让其他人使用。
四、进阶技巧
当基本流程跑通后,下面这些技巧能让你用得更顺手:
| 技巧 | 说明 | 适用场景 |
|---|---|---|
| 调整分块大小 | 默认 500 字符,可改为 300-800。太小会丢失上下文,太大检索不精准。 | 技术文档、法律条文 |
| 使用多个知识库 | 一个应用可以关联多个知识库,系统会同时检索。 | 产品手册 + 常见问题库 |
| 设置提示词 | 在应用编排的“提示词”中,限定回答风格,如“用简洁的中文回答”。 | 客服、内部助手 |
| 开启引用来源 | 在应用设置中打开“显示引用”,让回答更可信。 | 需要溯源的知识问答 |
| 工作流编排 | 用“工作流”模式,可以串联搜索、判断、回复等多个节点。 | 复杂业务逻辑 |
| API 集成 | 发布后获取 API Key,嵌入到网站或企业微信。 | 对外服务 |
五、常见问题
Q1:FastGPT 必须本地部署吗?在线版数据安全吗?
不是必须。在线版适合个人和小团队快速验证,数据存储在官方服务器。如果涉及敏感信息,建议本地部署,数据完全在你自己服务器上,不经过第三方。本地部署需要一定技术基础,官方文档提供了详细的 Docker 部署教程。
Q2:没有 GPU 服务器能跑吗?
可以。FastGPT 本身对 GPU 没有硬性要求,它主要依赖大模型 API 和向量模型。你可以用国内厂商的在线 API,这样普通 CPU 服务器就能运行。如果非要本地跑大模型,才需要 GPU。对于大多数知识库问答场景,API 方式成本更低、效果更好。
Q3:上传的文档支持扫描件吗?
FastGPT 默认提取文本,扫描件是图片,需要先经过 OCR 识别。可以先用 OCR 工具(如 PaddleOCR)转成文字,再上传。官方也支持部分 OCR 插件,但配置稍复杂。建议优先上传可复制文字的 PDF 或 Word 文档。
总的来说,FastGPT 把知识库问答的门槛降得很低,只要跟着步骤走,半小时就能搭出一个可用的问答机器人。先跑通最小闭环,再慢慢优化分块、提示词和工作流,你的知识库会越用越聪明。
智库妙影 AI数字人
智库创课 AI课件
智库GEO AI搜索优化
智库妙鉴 AI命理文化
Agent社区 智能体交流
智影新媒体OS 新媒体创作
辽公网安备21021102001760号