0℃
2025年02月17日
2025年02月17日
⁄ Linux
⁄ 被围观 2,629次+
组件简介：
1、DeepSeek：
提供强大的文本理解和生成能力。
作为语言模型的核心，负责生成高质量的回答。
2、Ollama：
作为一个开源框架，管理 DeepSeek 模型的加载和推理。
支持多种大模型，提供轻量级的接口。
3、Dify：
Dify 是一个开源的项目，旨在为开发者和企业提供一站式的大语言模型（LLM）应用开发解决方案。
它可以帮助用户快速构建、定制和部署基于大语言模型的应用程序，而无需深入理解复杂的底层技术细节。
系统环境：
这里使用Rocky Linux 9.x系统部署
CPU ：4核
内存： 16GB
磁盘： 150GB
一、准...
DeepSeek, Dify, Ollama, 大模型阅读全文
0℃
2025年02月12日
2025年02月12日
⁄ Linux
⁄ 被围观 3,045次+
组件简介：
1、DeepSeek：
提供强大的文本理解和生成能力。
作为语言模型的核心，负责生成高质量的回答。
2、Ollama：
作为一个开源框架，管理 DeepSeek 模型的加载和推理。
支持多种大模型，提供轻量级的接口。
3、RAGFlow：
实现检索增强生成（Retrieval-Augmented Generation）。
结合向量数据库（如 Elasticsearch 等）进行高效检索。
将检索到的相关文档片段与语言模型结合，生成更准确的回答。
系统环境：
这里使用Rocky Linux 9.x系统部署
CPU ：4核
内存： 16GB
磁盘： 150GB
准备篇
1、禁用SELinux
rpm ...
DeepSeek, Ollama, RAGFlow阅读全文
0℃
2024年12月31日
2024年12月31日
⁄ Linux
⁄ 被围观 2,886次+
1、Ollama简介
Ollama是一个开源的框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。它提供了一个简洁且用户友好的命令行界面，使得用户可以轻松地部署和管理各类开源的LLM。
官方网站：
https://ollama.com/download
https://github.com/ollama/ollama
2、Open WebUI简介
Open WebUI是一个开源的用户界面工具，专为运行和管理大型语言模型（LLM）及其他人工智能功能设计。其主要目的是简化人工智能模型的本地部署和操作，使用户能够通过浏览器界面与各种AI模型进行交互。
官方网站：
htt...
ai, LLM, Ollama, Open WebUI, 大模型阅读全文