Linux下安装的Ollama,下载的大模型文件默认是存储在ollama用户的家目录下。
#创建用户ollama
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)
类似上面的方式创建用户后
模型默认是在存储在ollama用户目录下,这里ollama用户的目录是/usr/share/ollama
所以模型的目录就是在/usr/share/ollama下
1、修改默认的存储路径
#创建模型存储的目录
mkdir -p /data/server/ollama/models
#设置目录所有者为ollama 用户和 ollama 组
chown -R ollama:ollama /data/server/ollama/models -R
#设置目录权限
chmod 755 /data/ollama/models -R
2、修改ollama启动文件
添加这一行:Environment="OLLAMA_MODELS=/data/server/ollama/models" #自定义模型存储的目录
vi /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0" #服务将绑定到主机的所有网络接口
Environment="OLLAMA_ORIGINS=*" #允许来自所有来源的请求(用于跨域资源共享,CORS 设置)
Environment="OLLAMA_MODELS=/data/server/ollama/models" #自定义模型存储的目录
[Install]
WantedBy=default.target
:wq! #保存退出
systemctl daemon-reload
systemctl restart ollama 重启
systemctl status ollama 查看状态
3、迁移大模型文件到新目录