向量数据库 Milvus 版
向量数据库 Milvus 版
文档指南
请输入
- 文档首页
向量数据库 Milvus 版最佳实践通过向量数据库 Milvus 版和开源 Dify 构建 RAG 系统
复制全文
下载 pdf通过向量数据库 Milvus 版和开源 Dify 构建 RAG 系统
文档反馈
问问助手本文介绍如何通过向量数据库 Milvus 版和开源 Dify 构建 RAG 系统。
RAG 原理介绍
RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合检索与生成的大模型应用模式。其原理是：在用户发出请求后，系统首先通过向量数据库检索相关知识片段，然后将这些检索结果作为上下文传递给大语言模型，从而辅助模型生成更准确、可控、并且贴合业务知识的回答。这样既能缓解模型本身知识局限的问题，又能避免单纯依赖参数记忆导致的幻觉，提高结果的可靠性和可解释性。
开源 Dify 原理介绍
Dify 是一款开源的大语言模型（LLM）应用开发平台。其融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。使非技术人员也可参与到 AI 应用的定义和数据运营过程中。Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的工作流，并同时提供了一套易用的界面和 API，使开发者可以专注在创新和业务需求上。
前提条件
- 已创建实例且实例处于运行中状态。具体操作，请参见创建实例。
- 已在火山方舟控制台创建用于 embedding 模型的 API Key。具体操作，请参见获取 API Key 并配置。
- 已在火山方舟控制台创建在线推理接入点，并添加一个聊天模型（如 DeepSeek-V3.1）和一个 embedding 模型（如 Doubao-embedding）。具体操作，请参见获取 Endpoint ID（创建自定义推理接入点）。
- 已安装 Git、Docker 和 Docker-Compose。具体操作，请参见 1.5 起步 - 安装 Git、Install Docker Engine 和 Overview of installing Docker Compose。
说明
如需访问使用 IPv6 地址的 Milvus 实例，Docker-Compose 需支持 IPv6。
操作步骤
配置 Docker（可选）
Docker 的默认网络模式为 IPv4。如需访问使用 IPv6 地址的 Milvus 实例，在 Docker 设置页面中选择 Resources > Network，然后将 Default networking mode 设置为 Dual IPv4/IPv6。
克隆 Dify
通过 Git 命令将开源 Dify 项目克隆至本地。
配置 .env 文件
.env 文件要修改的内容如下。
配置接入点限流
- 进入火山方舟控制台。
- 在左侧导航栏选择模型推理 > 在线推理。
- 在自定义推理接入点页签，单击目标推理接入点。
- 在概览信息页签的基本信息区域，单击接入点限流右侧的编辑图标。
- 在限流对话框中，根据需要配置 RPM（Requests Per Minute，分钟处理请求数）和 TPM（Tokens Per Minute，每分钟处理 token 数）。
说明
建议将 TPM 设置为 10000 以上，否则后续可能报错。
启动并登录 Dify
- 执行以下命令启动 Dify。
-
说明
Dify 首次启动过程预计十分钟左右。
- 浏览器打开 http://localhost/install 进入 Dify 注册页面。
- 输入邮箱、用户名和密码，然后单击设置。
-
- 在登录页面，输入上一步中设置的邮箱和密码，然后单击登录。
-
配置模型
- 在右上角单击用户头像，然后选择设置。
-
- 在左侧导航栏选择模型供应商，在安装模型供应商区域找到火山方舟，然后单击卡片上的安装。
-
- 在弹出的对话框中，单击安装。等待插件完成后，单击关闭。
-
- 在待配置区域，找到 Volcengine 卡片，然后单击添加模型。
-
说明
重复步骤 4~5，依次添加聊天模型和 embedding 模型。
- 在添加 Volcengine 窗口中，配置以下参数，然后单击保存。
-
- 在模型列表区域，单击系统模型配置，在系统推理模型下选择添加的聊天模型，在 Embedding 模型下选择添加的 embedding 模型，然后单击保存。
-
创建知识库
- 在 Dify 顶部导航栏，选择知识库，然后单击创建知识库。
-
- 在选择数据源步骤中，在选择数据源下选择导入已有文本，在上传文本文件下单击选择文件并选择本地知识库文件或将本地知识库文件拖动至上传区域，然后单击下一步。
-
- 在文本分段与清洗步骤中，将所有参数值保持默认值，然后单击保存并处理。
-
- 在处理并完成步骤中，等待文档嵌入完成，然后单击前往文档。
-
-
确认文档已写入
- 获取数据库名
-
- 获取集合名
-
- 获取集合内文档条数
-
创建应用
- 在 Dify 顶部导航栏，选择工作室，然后在创建应用卡片中单击从应用模板创建。
-
- 在左侧导航栏，选择 Knowledge Retrieval，然后在知识库 + 聊天机器人卡片上单击使用该模板。
-
- 在弹出的对话框中，配置以下参数，然后单击创建。
- 参数说明应用名称 & 图标
- 输入应用的名称。
- 单击示例图标，然后选择表情符号或从本地上传图标。
描述输入应用的描述。
-
- 在应用配置页面，忽略弹出窗口，单击知识检索节点，然后单击知识库后的 + 号。
-
- 在弹出的对话框中，选择已添加的知识库，然后单击添加。
-
- 依次配置知识检索、LLM、参数提取器和直接回复节点。
- 单击 LLM 节点，然后配置以下参数。
- 参数说明模型选择添加的聊天模型。上下文选择 {x} result。SYSTEM
-
- 右键单击参数提取器，然后选择删除。
-
- 将 LLM 节点右侧的 + 号向右拖动，连接至直接回复节点。
-
- 单击直接回复节点，删除回复文本框中的内容，输入 /，然后选择 {x}text。
-
- 单击页面右上角的预览，在文本框中输入问题，然后单击发送按钮。系统将根据知识库内容返回回答。
-
- 确认应用运行与期望一致后，单击页面右上角的发布，然后单击发布更新。
-
-
附录
提示词
最近更新时间：2025.11.24 11:11:40
这个页面对您有帮助吗？
有用
有用
无用
无用