0℃
2025年02月17日
2025年02月17日
⁄ Linux
⁄ 被围观 638次+
组件简介：
1、DeepSeek：
提供强大的文本理解和生成能力。
作为语言模型的核心，负责生成高质量的回答。
2、Ollama：
作为一个开源框架，管理 DeepSeek 模型的加载和推理。
支持多种大模型，提供轻量级的接口。
3、Dify：
Dify 是一个开源的项目，旨在为开发者和企业提供一站式的大语言模型（LLM）应用开发解决方案。
它可以帮助用户快速构建、定制和部署基于大语言模型的应用程序，而无需深入理解复杂的底层技术细节。
系统环境：
这里使用Rocky Linux 9.x系统部署
CPU ：4核
内存： 16GB
磁盘： 150GB
一、准...
DeepSeek, Dify, Ollama, 大模型阅读全文
0℃
2025年02月13日
2025年02月13日
⁄ Linux
⁄ 被围观 515次+
Linux下安装的Ollama，下载的大模型文件默认是存储在ollama用户目录下的.ollama/models目录。
#创建用户ollama
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)
类似上面的方式创建用户后
模型默认是在存储在ollama用户目录下.ollama/models目录，这里ollama用户的目录是/usr/share/ollama
所以模型的目录就是在/usr/share/ollama/.ollama/models下
1、修改默认的存储路径
#创建模型存储的目录
mkdir -p /data/server/ollama/models
#设置目录所有者为ollama 用户...
linux, Ollama, 大模型阅读全文
0℃
2024年12月31日
2024年12月31日
⁄ Linux
⁄ 被围观 2,270次+
1、Ollama简介
Ollama是一个开源的框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。它提供了一个简洁且用户友好的命令行界面，使得用户可以轻松地部署和管理各类开源的LLM。
官方网站：
https://ollama.com/download
https://github.com/ollama/ollama
2、Open WebUI简介
Open WebUI是一个开源的用户界面工具，专为运行和管理大型语言模型（LLM）及其他人工智能功能设计。其主要目的是简化人工智能模型的本地部署和操作，使用户能够通过浏览器界面与各种AI模型进行交互。
官方网站：
htt...
ai, LLM, Ollama, Open WebUI, 大模型阅读全文