0℃
2025年02月17日
⁄ Linux
⁄ 被围观 2,560次+
组件简介:
1、DeepSeek:
提供强大的文本理解和生成能力。
作为语言模型的核心,负责生成高质量的回答。
2、Ollama:
作为一个开源框架,管理 DeepSeek 模型的加载和推理。
支持多种大模型,提供轻量级的接口。
3、Dify:
Dify 是一个开源的项目,旨在为开发者和企业提供一站式的大语言模型(LLM)应用开发解决方案。
它可以帮助用户快速构建、定制和部署基于大语言模型的应用程序,而无需深入理解复杂的底层技术细节。
系统环境:
这里使用Rocky Linux 9.x系统部署
CPU :4核
内存: 16GB
磁盘: 150GB
一、准...
DeepSeek, Dify, Ollama, 大模型阅读全文
0℃
2025年02月12日
⁄ Linux
⁄ 被围观 3,010次+
组件简介:
1、DeepSeek:
提供强大的文本理解和生成能力。
作为语言模型的核心,负责生成高质量的回答。
2、Ollama:
作为一个开源框架,管理 DeepSeek 模型的加载和推理。
支持多种大模型,提供轻量级的接口。
3、RAGFlow:
实现检索增强生成(Retrieval-Augmented Generation)。
结合向量数据库(如 Elasticsearch 等)进行高效检索。
将检索到的相关文档片段与语言模型结合,生成更准确的回答。
系统环境:
这里使用Rocky Linux 9.x系统部署
CPU :4核
内存: 16GB
磁盘: 150GB
准备篇
1、禁用SELinux
rpm ...
DeepSeek, Ollama, RAGFlow阅读全文