Linux下DeepSeek+Ollama‌+Dify搭建本地知识库

qihang01 — Mon, 17 Feb 2025 10:42:58 +0000

组件简介： 1、DeepSeek：提供强大的文本理解和生成能力。作为语言模型的核心，负责生成高质量的回答。 2、Ollama：作为一个开源框架，管理 DeepSeek 模型的加载和推理。支持多种大模型，提供轻量级的接口。 3、Dify： Dify 是一个开源的项目，旨在为开发者和企业提供一站式的大语言模型（LLM）应用开发解决方案。它可以帮助用户快速构建、定制和部署基于大语言模型的应用程序，而无需深入理解复杂的底层技术细节。系统环境：这里使用Rocky Linux 9.x系统部署 CPU ：4核内存： 16GB 磁盘： 150GB 一、准备篇 1、禁用SELinux rpm -q grubby #确认grubby软件包是否已经安装 grubby --update-kernel ALL --args selinux=0 #添加selinux=0到内核命令行 shutdown -r now #重启系统 getenforce #查看结果为Disabled 2、防火墙设置 Rocky Linux 9.x默认是firewalld防火墙，因为‌Docker需要iptables，我们这里卸载firewall，安装iptables作为防火墙，并清空防火墙规则 2.1关闭firewall systemctl stop firewalld.service systemctl disable firewalld.service systemctl mask firewalld [...]

查看全文

系统运维 » Dify

Linux下DeepSeek+Ollama‌+Dify搭建本地知识库