Linux下修改Ollama大模型文件默认存储路径

qihang01 — Thu, 13 Feb 2025 10:26:22 +0000

Linux下安装的Ollama，下载的大模型文件默认是存储在ollama用户目录下的.ollama/models目录。 #创建用户ollama useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama usermod -a -G ollama $(whoami) 类似上面的方式创建用户后模型默认是在存储在ollama用户目录下.ollama/models目录，这里ollama用户的目录是/usr/share/ollama 所以模型的目录就是在/usr/share/ollama/.ollama/models下 1、修改默认的存储路径 #创建模型存储的目录 mkdir -p /data/server/ollama/models #设置目录所有者为ollama 用户和 ollama 组 chown -R ollama:ollama /data/server/ollama/models -R #设置目录权限 chmod 755 /data/server/ollama/models -R 2、修改启动服务添加这一行：Environment="OLLAMA_MODELS=/data/server/ollama/models" #自定义模型存储的目录 vi /etc/systemd/system/ollama.service [Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH" [...]

查看全文

系统运维 » Ollama

Linux下修改Ollama大模型文件默认存储路径