0℃
2025年02月13日
⁄ Linux
⁄ 被围观 96次+
Linux下安装的Ollama,下载的大模型文件默认是存储在ollama用户目录下的.ollama/models目录。
#创建用户ollama
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)
类似上面的方式创建用户后
模型默认是在存储在ollama用户目录下.ollama/models目录,这里ollama用户的目录是/usr/share/ollama
所以模型的目录就是在/usr/share/ollama/.ollama/models下
1、修改默认的存储路径
#创建模型存储的目录
mkdir -p /data/server/ollama/models
#设置目录所有者为ollama 用户...
linux, Ollama, 大模型阅读全文
0℃
2024年12月31日
⁄ Linux
⁄ 被围观 1,943次+
1、Ollama简介
Ollama是一个开源的框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。它提供了一个简洁且用户友好的命令行界面,使得用户可以轻松地部署和管理各类开源的LLM。
官方网站:
https://ollama.com/download
https://github.com/ollama/ollama
2、Open WebUI简介
Open WebUI是一个开源的用户界面工具,专为运行和管理大型语言模型(LLM)及其他人工智能功能设计。其主要目的是简化人工智能模型的本地部署和操作,使用户能够通过浏览器界面与各种AI模型进行交互。
官方网站:
htt...
ai, LLM, Ollama, Open WebUI, 大模型阅读全文