技术交流QQ群:①185473046   ②190706903   ③203744115   网站地图
登录

下次自动登录
现在的位置: 首页Linux>正文
Linux下修改Ollama大模型文件默认存储路径
2025年02月13日 Linux 暂无评论 ⁄ 被围观 20次+

Linux下安装的Ollama,下载的大模型文件默认是存储在ollama用户的家目录下。

#创建用户ollama

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama

usermod -a -G ollama $(whoami)

类似上面的方式创建用户后

模型默认是在存储在ollama用户目录下,这里ollama用户的目录是/usr/share/ollama

所以模型的目录就是在/usr/share/ollama

1、修改默认的存储路径

#创建模型存储的目录

mkdir -p /data/server/ollama/models

#设置目录所有者为ollama 用户和 ollama 组

chown -R ollama:ollama /data/server/ollama/models -R

#设置目录权限

chmod 755 /data/ollama/models -R

2、修改ollama启动文件

添加这一行:Environment="OLLAMA_MODELS=/data/server/ollama/models" #自定义模型存储的目录

vi /etc/systemd/system/ollama.service

[Unit]

Description=Ollama Service

After=network-online.target

[Service]

ExecStart=/usr/bin/ollama serve

User=ollama

Group=ollama

Restart=always

RestartSec=3

Environment="PATH=$PATH"

Environment="OLLAMA_HOST=0.0.0.0" #服务将绑定到主机的所有网络接口

Environment="OLLAMA_ORIGINS=*" #允许来自所有来源的请求(用于跨域资源共享,CORS 设置)

Environment="OLLAMA_MODELS=/data/server/ollama/models" #自定义模型存储的目录

[Install]

WantedBy=default.target

:wq! #保存退出

systemctl daemon-reload

systemctl restart ollama 重启

systemctl status ollama 查看状态

3、迁移大模型文件到新目录

 

     

  系统运维技术交流QQ群:①185473046 系统运维技术交流□Ⅰ ②190706903 系统运维技术交流™Ⅱ ③203744115 系统运维技术交流™Ⅲ

给我留言

您必须 [ 登录 ] 才能发表留言!



Copyright© 2011-2025 系统运维 All rights reserved
版权声明:本站所有文章均为作者原创内容,如需转载,请注明出处及原文链接
陕ICP备11001040号-3