亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定

RAGFlow部署

  • 简介

    RAGFlow 是一款基于深度文档理解构建的开源 RAG(Retrieval-Augmented Generation)引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程,结合大语言模型(LLM)针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。

        https://github.com/infiniflow/ragflow

  • 安装条件

       CPU >= 4核

       内存 >= 16G

       磁盘 >= 50G

       Docker >= 24.0

       Docker Compose >= v2.26.1

  • 开始安装

    1.git拉取

git clone https://github.com/infiniflow/ragflow.git

        如果git拉取很慢的话,可以在github上下载ZIP文件,再通过XShell传到服务器上。

        2.修改docker-compose.yml文件

cd ragflow/docker

        看到有如下文件:

       https://img1.sycdn.imooc.com/5145516709cab00f06110273.jpg

        打开docker-compose.yml可以看到,ragflow需要使用80和443端口;minio需要9000端口;redis需要6379端口。因为我本地这些端口已经被其他服务占用了,所以需要重新分配端口。

       如果这些端口没有被占用,可以不用修改。

        a.打开docker-compose.yml文件,将80和443端口修改成8081和8043

vim docker-compose.yml

      https://img1.sycdn.imooc.com/78c94f6709cab37305130435.jpg

      b.打开.env文件,找到MINIO_PORT和REDIS_PORT,分别修改成9010和63790。

      https://img1.sycdn.imooc.com/ebe4be6709cab41707250340.jpg

      c.打开.env文件,找到RAGFLOW_IMAGE,将ragflow:v0.17.0-slim注释掉,启用ragflow:v0.17.0。内容如下。

#RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.0-slim

# To download the RAGFlow Docker image with embedding models, uncomment the following line instead:
 RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.0

      https://img1.sycdn.imooc.com/c4ec9a6709d299f607030362.jpg

      这样我们就能使用RAGFlow自带的embedding models了。

      3.执行docker compose

docker compose -f docker-compose.yml up -d

     这个过程会很慢,大约会拉取2.7G的文件。

     检查系统是否启动成功:

 docker logs -f ragflow-server

     https://img1.sycdn.imooc.com/4d78d26709cab59d12000453.jpg

    出现上图信息时说明启动成功,这时候就可以登录系统了。

     https://img1.sycdn.imooc.com/6f43866709cab6a918820877.jpg

    4.简单demo

   为了快速上手RAGFlow,我们建一个简单的demo。

   a.选择Model providers

     点击头像,点击Model providers。

     https://img1.sycdn.imooc.com/f0fa6f6709cab7bd19200927.jpg

    选择你需要的大模型。配置好后点击“System Model Settings”,将之前配置好的模型设为系统模型。

    https://img1.sycdn.imooc.com/17a6366709cf917219200957.jpg

    b.设置知识库

    点击“Knowledge Base”,选择新建知识库。选择之前配置的嵌入模型。点击保存。

    https://img1.sycdn.imooc.com/e3caea6709cf929914810901.jpg

     Dataset>Add file,开始解析。 这里我选了一个API文档做示例。

    https://img1.sycdn.imooc.com/9ca0fb6709cf947d19200927.jpg

     解析成功后可以看到分块。

  https://img1.sycdn.imooc.com/f171b16709cf952118600643.jpg

    c.创建聊天助手

    Chat>Create an Assistant。

    选择刚才设置好的知识库。

    https://img1.sycdn.imooc.com/c72ab56709cf972d19200957.jpg

    选择大模型

    https://img1.sycdn.imooc.com/9c7d846709cf978505850561.jpg

    d.测试

    以上配置完成后,就可以和助手聊天了。

    https://img1.sycdn.imooc.com/a885426709cf9ac619200927.jpg

    e.最后

    以上只是一个简单的demo。AI助手的效果是和选择的大模型和Rerank model相关的。前者负责回答用户的问题,后者负责解析知识库。






點擊查看更多內容
TA 點贊

若覺得本文不錯,就分享一下吧!

評論

作者其他優質文章

正在加載中
JAVA開發工程師
手記
粉絲
1
獲贊與收藏
3

關注作者,訂閱最新文章

閱讀免費教程

  • 推薦
  • 評論
  • 收藏
  • 共同學習,寫下你的評論
感謝您的支持,我會繼續努力的~
掃碼打賞,你說多少就多少
贊賞金額會直接到老師賬戶
支付方式
打開微信掃一掃,即可進行掃碼打賞哦
今天注冊有機會得

100積分直接送

付費專欄免費學

大額優惠券免費領

立即參與 放棄機會
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號

舉報

0/150
提交
取消