在当今数字化时代,知识管理变得愈发重要,无论是企业还是个人,都需要一个高效、安全且个性化的知识库来存储和检索重要信息。今天,我将带你一步步搭建一个基于 DeepSeek R1 模型的本地知识库,让你拥有一个专属的智能助手。
一、为什么选择 DeepSeek R1?
DeepSeek R1 是一款开源的大语言模型,专为中文场景优化,具有强大的语言理解和生成能力。它不仅性能出色,还支持多种参数版本,可根据你的硬件配置灵活选择。此外,DeepSeek R1 的本地部署特性,确保了数据的隐私性和安全性,完全不用担心敏感信息泄露。
二、环境准备在开始之前,确保你的电脑满足以下基本要求:• 操作系统:Windows、macOS 或 Linux• Python:版本 3.8 或更高• 硬件:至少 8GB 内存,推荐使用带有独立显卡的设备以加速模型运行
下载模型
根据电脑配置下载对应的模型具体标准和下载模型地址可参照deepseek 蒸馏模型本地部署
安装软件
安装anything LLm
- 安装 LM Studio1. 下载 LM Studio:• 访问 LM Studio 官网,
- 下载适合你操作系统的版本。• 对于 Windows 用户,下载 .exe 文件并运行安装程序。• 对于 macOS 用户,下载 .dmg 文件并安装到 Applications 文件夹中。
- 启动 LM Studio:• 打开 LM Studio 应用程序,进入“Models”页面。• 浏览可用的模型,选择一个适合的模型(如 Llama-3-8B-Instruct-GGUF)。• 选择合适的量化级别(如 Q8),下载并安装模型。
- 启动本地服务器:• 在 LM Studio 的“Local Server”页面,选择你下载的模型并启动服务器。• 记录下服务器的地址(如
865



被折叠的 条评论
为什么被折叠?



