DeepSeek+Ollama‌+RAGFlow搭建本地知识库

qihang01 — Wed, 12 Feb 2025 07:07:06 +0000

组件简介： 1、DeepSeek：提供强大的文本理解和生成能力。作为语言模型的核心，负责生成高质量的回答。 2、Ollama：作为一个开源框架，管理 DeepSeek 模型的加载和推理。支持多种大模型，提供轻量级的接口。 3、RAGFlow：实现检索增强生成（Retrieval-Augmented Generation）。结合向量数据库（如 Elasticsearch 等）进行高效检索。将检索到的相关文档片段与语言模型结合，生成更准确的回答。系统环境：这里使用Rocky Linux 9.x系统部署 CPU ：4核内存： 16GB 磁盘： 150GB 准备篇 1、禁用SELinux rpm -q grubby #确认grubby软件包是否已经安装 grubby --update-kernel ALL --args selinux=0 #添加selinux=0到内核命令行 shutdown -r now #重启系统 getenforce #查看结果为Disabled 2、防火墙设置 Rocky Linux 9.x默认是firewalld防火墙，因为‌Docker需要iptables，我们这里卸载firewall，安装iptables作为防火墙，并清空防火墙规则 2.1关闭firewall systemctl stop firewalld.service systemctl disable firewalld.service [...]

查看全文

系统运维 » RAGFlow

DeepSeek+Ollama‌+RAGFlow搭建本地知识库