0℃
2025年02月17日
⁄ Linux
⁄ 被围观 2,560次+
组件简介:
1、DeepSeek:
提供强大的文本理解和生成能力。
作为语言模型的核心,负责生成高质量的回答。
2、Ollama:
作为一个开源框架,管理 DeepSeek 模型的加载和推理。
支持多种大模型,提供轻量级的接口。
3、Dify:
Dify 是一个开源的项目,旨在为开发者和企业提供一站式的大语言模型(LLM)应用开发解决方案。
它可以帮助用户快速构建、定制和部署基于大语言模型的应用程序,而无需深入理解复杂的底层技术细节。
系统环境:
这里使用Rocky Linux 9.x系统部署
CPU :4核
内存: 16GB
磁盘: 150GB
一、准...
DeepSeek, Dify, Ollama, 大模型阅读全文
0℃
2025年02月12日
⁄ Linux
⁄ 被围观 3,010次+
组件简介:
1、DeepSeek:
提供强大的文本理解和生成能力。
作为语言模型的核心,负责生成高质量的回答。
2、Ollama:
作为一个开源框架,管理 DeepSeek 模型的加载和推理。
支持多种大模型,提供轻量级的接口。
3、RAGFlow:
实现检索增强生成(Retrieval-Augmented Generation)。
结合向量数据库(如 Elasticsearch 等)进行高效检索。
将检索到的相关文档片段与语言模型结合,生成更准确的回答。
系统环境:
这里使用Rocky Linux 9.x系统部署
CPU :4核
内存: 16GB
磁盘: 150GB
准备篇
1、禁用SELinux
rpm ...
DeepSeek, Ollama, RAGFlow阅读全文
0℃
2024年12月31日
⁄ Linux
⁄ 被围观 2,874次+
1、Ollama简介
Ollama是一个开源的框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。它提供了一个简洁且用户友好的命令行界面,使得用户可以轻松地部署和管理各类开源的LLM。
官方网站:
https://ollama.com/download
https://github.com/ollama/ollama
2、Open WebUI简介
Open WebUI是一个开源的用户界面工具,专为运行和管理大型语言模型(LLM)及其他人工智能功能设计。其主要目的是简化人工智能模型的本地部署和操作,使用户能够通过浏览器界面与各种AI模型进行交互。
官方网站:
htt...
ai, LLM, Ollama, Open WebUI, 大模型阅读全文