简话 RAG 本地部署(DeepSeek + RAGFlow)

VIP简话 RAG 本地部署(DeepSeek + RAGFlow)
RAG = DeepSeek + OLlama + Docker + RAGFlow + Windows 11简话 RAG 本地部署
开通可读全文 ·1.3w 人阅读
最低0.47元/天 解锁文章

一、前置说明

1、RAG(Retrieval-Augmented Generation 检索增强生成)技术
  • 先把自己的私有资料(文本、图片等)收集到一个 “知识库” 中
  • 让AI先从知识库中搜索可用资料,整理成增强版的提示词后再交给大模型,让大模型统筹通用知识和你的私有知识后,再输出答案
  • 解决问题:
    • 当你问的问题大模型不知道的时候,会胡说八道(RAG 让他可以从你的知识库中寻找答案)
    • 你自己的私有资料需要保密
2、本地部署环境:
  • 操作系统:Windows 11(RAM32G,GPU2G)(中配笔记本电脑)
  • 部署运行 DeepSeek:Ollama + DeepSeek
    • Ollama:本地运行大型语言模型的工具
  • 部署运行 RAG:Docker + RAGFlow
    • Docker:一键运行人家帮你集成打包好的 RAGFlow 平台
    • RAGFlow:用于实现 “检索增强生成(RAG)” 的平台,可以傻瓜式完成一个简易的 RAG 系统,就如同本文
      • 自带 Embedding 大模型,并自动创建和维护向量数据库(知识库)
      • 可以通过界面来快速构建知识库、对话助手

二、部署步骤

1、本地部署 DeepSeek

这里选择 Ollama + DeepSeek 的组合,我前面有一篇文章专门说了方法,这里不再赘述,见《 简话 DeepSeek 本地部署及接口调用 》
另外,为了确保部署在 Docker 中的 RAGFlow 能够正确地与 Ollama 进行通信 ,需要添加一个环境变量:
VIP 傻瓜操作:GraphRAG、Ollama 本地部署及踩坑记录 这里按惯例介绍一下 GraphRAG (其实就是水字数,大部分是 GPT 写的)这是我踩的最大的坑,折腾了两个小时。原因是一些模型无法生成有效的 json 输出,将 settings.yaml 中的 model_supports_json 选项设为 false 仍然无法解决。后来改用 mistral 模型就很顺利。所以请注意你的模型。 开通可读全文·1.2w 阅读·52 点赞·185 收藏 阅读全文

相关推荐

本地化搭建DeepSeek+RAGFlow,构建个人知识库

本地化搭建DeepSeek+RAGFlow,构建个人知识库。至少32G以上内存、500G以上空余磁盘空间。

gogospecter的专栏 7436

本地部署DeepSeek + Ragflow

Mac、Windows 本地部署DeepSeek + Ragflow,ollama + docker

效率开发者手札 1939

Docker+Ollama+RAGFlow本地部署DeepSeek R1并构建本地知识库

本文详细记录了通过Ollama安装DeepSeek R1:7B模型,通过Docker加载Open-WebUI,RAGFlow框架,并以RAGFlow为基础搭建本地知识库,其中embedding模型选择了比较受欢迎的nomic-embed-text。通过对通用大模型融合本地知识库进行推理的亲自体验,形成对于DeepSeek等AI大模型利用方式的新认识。

F8_11的博客 2437

RAGFlow+DeepSeek搭建本地知识库

将文本(World、PDF等等)中的自然语言转换成机械可以理解的高维向量,然后通过向量之间的匹配和比对去捕获到单词或是句子背后的语义信息。除了针对知识库的文本之外,还会针对用户输入的信息进行处理。说人话就是,Embedding模型会把信息转换成对应的身份证,然后会匹配两个身份证最相似的数据。

bukeyizhongwen的博客 1024

windows上部署本地知识库(RAG)ollama + docker + ragflow方案

在.wslconfig文件配置如下,解决运行内存不够的场景,ragflow最低要求16G(如果没有.wslconfig文件,可以win+r,输入%UserProfile%之后新建)有gpu的可以执行此命令:docker compose -f docker-compose-gpu.yml up -d。没有gpu的可以执行此命令:docker compose -f docker-compose.yml up -d。进入ragflow的docker目录:D:\自己的位置\ragflow\docker。

weixin_43869605的博客 1640

【AI大模型应用开发】3. RAG初探 - 动手实现一个最简单的RAG应用

大模型也不是万能的,也有局限性。RAG是提高大模型在垂直领域能力和减少幻觉的通用方法论,非常重要和有用。本文带你动手实现一个最简单的RAG应用,你将学会一个标准RAG的通用流程和原理。

同学小张的博客 5268

二、频率调制光谱(FMS)技术——error信号的数学模型及其他推论

一些推论。

qq_41111336的博客 1607

ARS408毫米波雷达数据解析避坑指南:从硬件连接到Python处理

本文提供了ARS408毫米波雷达从硬件连接到Python数据处理的完整实战指南。针对串口通信不稳定、数据解析错误等常见问题,详细解析了硬件连接方案选择、串口数据高效读取策略、二进制协议解析的位操作技巧,并给出了坐标转换、目标跟踪及实时可视化的代码实现,帮助开发者快速搭建稳定的雷达数据处理流水线。

weixin_29091105的博客 156

西电微原课设——矩阵式键盘数字密码锁设计

内容要求:根据设定好的密码,采用4x4矩阵键盘实现密码的输入功能。当密码输入正确之后,锁就打开(绿灯亮),10秒之后,锁自动关闭(红灯亮);如果连续输入三次密码不正确,就锁定按键5秒钟,同时发出报警(黄灯闪),5秒后,解除按键锁定,恢复密码输入。...

Polaris的博客 1万+

ubuntu20.04下内核源码下载分析

ubuntu 20.04下内核源代码下载,配置编译环境写在前面一、安装VMware Workstation和Ubuntu20.04二、修改apt源合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 写在前面 我最近的科研工作需要使用到对ubun

冰冻三尺非一日之寒 1万+

Python 爬虫实战:分析 AJAX 请求抓取搜狐新闻数据

在Web 2.0时代,大量网站采用AJAX技术实现动态内容加载。传统基于静态HTML解析的爬虫技术(如BeautifulSoup)已无法应对这类场景。本文将以搜狐新闻为实战目标,详解如何通过分析AJAX请求接口实现动态新闻数据的精准抓取。

yansideyucsdn的博客 1752

Python 爬虫实战:雪球用户数据爬取与投资行为分析(含 API 签名算法解析)

雪球作为国内领先的投资者社区,拥有丰富的用户数据和投资信息。通过爬取雪球用户数据并进行分析,我们可以深入了解用户的持仓偏好、交易行为和投资策略,为企业和投资者提供有价值的市场洞察。

yansideyucsdn的博客 2252

2026华为OD机试(JavaScript)真题【E卷+A卷+B卷+C卷+D卷】目录+在线OJ

华为OD机试真题题库【E卷+A卷+B卷+C卷+D卷】目录,JavaScript实现。

MISAYAONE的博客 8万+

深度学习论文: AnomalyDINO: Boosting Patch-based Few-shot Anomaly Detection with DINOv2

通过将DINOv2模型适应到一次性和少量异常检测中,并专注于工业应用少量异常检测。实验表明,这种方法不仅与现有技术相匹敌,甚至可以在许多设置中超越它们。我们提出的仅视觉方法AnomalyDINO基于补丁相似性,能够实现图像级别的异常预测和像素级别的异常分割。该方法在方法论上很简单,无需训练,因此不需要任何额外的数据进行微调或元学习。

mingo_敏 1909

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

上一篇: 简话 DeepSeek 本地部署及接口调用
捉虫客
博客等级 码龄9年 453粉丝 125原创
评论 10
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址