RAGFlow 部署方式
- 基于 Docker 部署:
- 前置条件:需要满足一定的硬件配置,如 CPU ≥ 4 核,RAM ≥ 16 GB,Disk ≥ 50 GB,同时安装 Docker ≥ 24.0.0 与 Docker Compose ≥ v2.26.1。
- 操作步骤:首先克隆 RAGFlow 的仓库,进入其 Docker 文件夹,利用提前编译好的 Docker 镜像启动服务器。启动成功后,通过浏览器访问指定地址进行注册登录。
- 基于 Kubernetes 部署:RAGFlow 官方提供了 Kubernetes 部署的文档,这种方式适合在大规模分布式环境中部署 RAGFlow,能够更好地管理资源和扩展服务。
RAGFlow 与 LLM 集成方式
- 通过 Ollama 集成:
- 安装 Ollama:Ollama 是一款本地化运行大语言模型的开源工具,可在本地创建、运行和管理多种模型。安装完成后,使用 ollama pull 命令下载所需的 LLM 模型。
- 在 RAGFlow 中添加 LLM 模型:在 RAGFlow 的界面中找到模型供应商,选择 Ollama 并添加模型。如果 RAGFlow 部署为 Docker,需要映射 Docker 外面的地址。
- 通过 API 集成:
- 配置 LLM 的 API:在 RAGFlow 的界面中,点击右上角的 logo 进入 Model providers 页面,点击所需的 LLM 并更新其 API 密钥。
- 选择默认模型:点击 System Model Settings,选择默认的对话模型、嵌入模型等。
- 通过本地部署的 LLM 集成:RAGFlow 支持部署 LLMs 本地使用,除了 Ollama,还可以使用 Xinference 或 LocalAI,但具体的集成方法需要根据这些工具的文档进行操作。
镜像加速
docker pull registry.cn-hangzhou.aliyuncs.com/megadotnet/docker.elastic.co.elasticsearch.elasticsearch:8.11.3 && docker tag registry.cn-hangzhou.aliyuncs.com/megadotnet/docker.elastic.co.elasticsearch.elasticsearch:8.11.3 docker.elastic.co/elasticsearch/elasticsearch:8.11.3
docker pull registry.cn-hangzhou.aliyuncs.com/megadotnet/infiniflow.ragflow:v0.16.0 && docker tag registry.cn-hangzhou.aliyuncs.com/megadotnet/infiniflow.ragflow:v0.16.0 infiniflow/ragflow:v0.16.0
docker pull registry.cn-hangzhou.aliyuncs.com/megadotnet/infiniflow.ragflow:v0.16.0-slim && docker tag registry.cn-hangzhou.aliyuncs.com/megadotnet/infiniflow.ragflow:v0.16.0-slim infiniflow/ragflow:v0.16.0-slim
docker pull registry.cn-hangzhou.aliyuncs.com/megadotnet/mysql:8.0.39 && docker tag registry.cn-hangzhou.aliyuncs.com/megadotnet/mysql:8.0.39 mysql:8.0.39
docker pull registry.cn-hangzhou.aliyuncs.com/megadotnet/valkey.valkey:8 && docker tag registry.cn-hangzhou.aliyuncs.com/megadotnet/valkey.valkey:8 valkey/valkey:8
docker pull registry.cn-hangzhou.aliyuncs.com/megadotnet/quay.io.minio.minio:RELEASE.2023-12-20T01-00-02Z && docker tag registry.cn-hangzhou.aliyuncs.com/megadotnet/quay.io.minio.minio:RELEASE.2023-12-20T01-00-02Z quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z
infiniflow/ragflow:v0.16.0 镜像是9GB磁盘空间占用
$ sudo sysctl -w vm.max_map_count=262144
$ cd ragflow $ docker compose -f docker/docker-compose.yml up -d
安装截图
文档
初始资源情况
配置APIKEY
Q&A数据集
Q&A 问答对内容都写到一个 EXCEL 表格(第一列放问题,第二列是答案)
总结
一、数据安全与隐私保护
- 数据隔离:通过私有Docker部署Ragflow,可以实现数据的物理隔离,确保企业私有数据不会泄露给外部或第三方。
- 隐私保护:对于敏感数据或隐私信息,私有Docker部署提供了更高的安全保障,避免了数据在公共网络上的传输和存储风险。
二、高效利用资源
- 节省网络带宽:私有Docker仓库可以避免每次都从外部仓库下载镜像,从而节省了网络带宽资源。
- 提高访问速度:由于私有仓库通常部署在公司内部网络,因此Ragflow的访问速度会更快,提高了工作效率。
三、灵活性与可扩展性
- 定制化需求:私有Docker部署允许企业根据自身需求对Ragflow进行定制化配置和优化,以满足特定的业务需求。
- 可扩展性:随着业务的发展,私有Docker部署可以轻松地扩展Ragflow的规模和性能,以适应不断增长的数据量和用户需求。
四、集成与协同
- 与其他系统集成:私有Docker部署使得Ragflow可以更容易地与其他企业系统进行集成,实现数据的共享和协同工作。
- 团队协作:通过私有Docker部署,团队成员可以更方便地共享和协作处理Ragflow相关的任务和数据。
五、成本节约
- 降低长期成本:虽然私有Docker部署的初期成本可能较高,但长期来看,由于避免了外部仓库的使用费用和潜在的数据泄露风险,因此可以降低整体成本。
- 提高ROI:通过高效的资源利用和定制化配置,私有Docker部署可以提高Ragflow的投资回报率(ROI)。
今天先到这儿,希望对云原生,技术领导力, 企业管理,系统架构设计与评估,团队管理, 项目管理, 产品管理,信息安全,团队建设 有参考作用 , 您可能感兴趣的文章:
构建创业公司突击小团队
国际化环境下系统架构演化
微服务架构设计
视频直播平台的系统架构演化
微服务与Docker介绍
Docker与CI持续集成/CD
互联网电商购物车架构演变案例
互联网业务场景下消息队列架构
互联网高效研发团队管理演进之一
消息系统架构设计演进
互联网电商搜索架构演化之一
企业信息化与软件工程的迷思
企业项目化管理介绍
软件项目成功之要素
人际沟通风格介绍一
精益IT组织与分享式领导
学习型组织与企业
企业创新文化与等级观念
组织目标与个人目标
初创公司人才招聘与管理
人才公司环境与企业文化
企业文化、团队文化与知识共享
高效能的团队建设
项目管理沟通计划
构建高效的研发与自动化运维
某大型电商云平台实践
互联网数据库架构设计思路
IT基础架构规划方案一(网络系统规划)
餐饮行业解决方案之客户分析流程
餐饮行业解决方案之采购战略制定与实施流程
餐饮行业解决方案之业务设计流程
供应链需求调研CheckList
企业应用之性能实时度量系统演变
如有想了解更多软件设计与架构, 系统IT,企业信息化, 团队管理 资讯,请关注我的微信订阅号:
作者:Petter Liu
出处:http://www.cnblogs.com/wintersun/
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
该文章也同时发布在我的独立博客中-Petter Liu Blog。