本文导读:
- 1、Dify+Ollama+Deepseek+BGE-M3来搭建本地知识库(5)---更改大模型文件存放...
- 2、如何搭建本地知识库使用豆包大模型
- 3、电脑本地快速部署deepseek并添加个人知识库
Dify+Ollama+Deepseek+BGE-M3来搭建本地知识库(5)---更改大模型文件存放...
移动大模型文件到D盘 查看Ollama和大模型文件的物理位置 Ollama的默认安装位置通常在C:Users[用户名]AppDataLocalProgramsOllama,这个目录大约占用5G左右的空间,可以先不动。大模型下载存放位置在C:Users[用户名].ollama,这个目录将近30G,是本次需要移动的重点。
下载完成后,打开cmd窗口,输入ollama验证是否安装成功。安装成功界面:拉取DeepSeek模型:在Ollama官网搜索并复制所需模型的链接,这里选择deepseek-r1的5b版本。将复制的链接粘贴到cmd窗口中并回车。模型拉取成功界面:安装Dify 访问Dify的GitHub页面:打开浏览器,访问Dify的GitHub页面。
在path中增加%OLLAMA_HOST%,然后重启Ollama服务。在Dify的配置页面中,输入正确的Ollama服务地址,并点击保存。配置知识库Embedding模型:选择BGE-M3作为知识库Embedding模型,因为BGE-M3在中文场景下的支持效果更好。在Ollama上搜索“embedding”以查找并下载BGE-M3模型。
选择并下载 DeepSeek 模型打开 Ollama 界面,在模型列表中选择 deepseek-r1:8b(或其他 DeepSeek 变体模型,如 deepseek-r1:7b、deepseek-r1:14b 等)。注意:首次使用模型时,Ollama 会自动下载模型文件。 下载模型文件点击模型后,Ollama 会开始下载模型文件。
配置模型:在 Cherry Studio 中设置本地 API 地址(如 http://localhost:11434)和 Ollama 模型。 配置知识库设置默认模型:选择 DeepSeek 模型(如 deepseek-r1:7b)。添加文档:添加文件:支持格式包括 pdf、docx、pptx、xlsx、txt、md 等,系统自动向量化处理,显示绿色“?”表示完成。

如何搭建本地知识库使用豆包大模型
搭建本地知识库使用豆包大模型需结合工具适配、数据处理、模型部署及交互实现四个核心步骤,具体操作需根据技术基础和需求选择合适方案。前期准备:工具与环境配置 确认豆包大模型可部署性豆包大模型(如字节跳动发布的开源/闭源版本)需明确是否支持本地部署。
这种方法利用集成平台(如Cherry Studio)搭建本地知识库,将股票基本面数据存储在本地,以便AI模型在回答时能够直接访问。步骤:选择平台与模型:选择适合的集成平台(如Cherry Studio),并确定使用的大模型(如Deepseek)。
首先创建嵌入对象,然后将分割后的文档和嵌入对象传入FAISS.from_documents方法来创建向量数据库。存储与载入向量数据库:将构建好的向量数据库保存到本地,以便后续重复使用。可以使用vectorstore.save_local方法保存数据库,使用vectorstore.load_local方法载入数据库。
构建自定义知识库的步骤整理知识库支持PDF、Word、TXT文本及网页链接等格式,重点确保信息结构化与准确性。例如整理公司产品FAQ时,需将问题与答案清晰对应。若内容复杂(如含大量图片),建议先用OCR工具提取文字,再上传以提高解析效果。
企业级场景:暂不支持私有化本地知识库部署 当前状态:豆包官方知识库以云端服务(豆包云) 为主,暂未开放本地化私有化部署功能(如对接企业本地服务器、局域网内运行)。
建立PDF素材库使用Cherry Studio搭建知识库 下载安装:从官方渠道获取Cherry Studio软件。添加模型:在设置中绑定DeepSeek对话模型(路径:设置→添加模型,输入“deepseek-ai/DeepSeek-R1”)。配置API:注册硅基流动官网获取免费Tokens,将API密钥填入Cherry Studio以调用DeepSeek能力。
电脑本地快速部署deepseek并添加个人知识库
1、DeepSeek本地知识库搭建通过浏览器插件Page Assist访问本地部署的大模型并搭建本地知识库。安装插件:搜索Page Assist插件后添加至Chrome。配置模型:选择本地搭建的模型,点击配置按钮,设置中文。RAG设置:模型选择本地搭建的。添加本地知识库:点击左侧管理知识,添加本地知识库,填写知识标题及上传文件,点击提交按钮。
2、利用Ollama部署本地化大模型 下载Ollama 访问Ollama的官方网站,选择适合您系统的版本进行下载。如果下载速度较慢,可以尝试使用迅雷等下载工具。下载DeepSeek 在Ollama的模型页面搜索DeepSeek,选择相应的版本,并复制下载命令。打开CMD窗口,粘贴并运行下载命令。
3、获取免费整合包整合包内容:包含Ollama环境安装程序、DeepSeek-R1大模型一键下载脚本、RAG(检索增强生成)启动程序及配套文档。领取方式:点击文中提供的链接获取整合包,下载后解压至本地文件夹(存放路径需为英文,避免中文路径导致程序异常)。
4、部署:下载完成后,打开命令窗口,使用cd命令导航到DeepSeekMine.app所在目录。然后执行命令DeepSeekMine.app/Contents/MacOS/DeepSeekMine启动应用。软件使用展示 加载个人知识库:软件支持按钮点击或拖拽方式加载个人知识库,个人文档只需加载一次,后续再打开软件会自动加载,不会丢失。
5、使用API搭建知识库如果你本地数据不涉密,且希望获得最佳使用效果,推荐使用满血的DeepSeek R1模型API。下载Cherry Studio 地址:Cherry Studio下载链接 下载并安装Cherry Studio软件。注册并登录硅基流动 地址:硅基流动注册登录链接 新用户会赠送2000万Token额度,用于API调用。
6、选定模型后,点击底部的更新工作区按钮,返回首页即可开始与Deepseek进行对话。上传文档及使用知识库上传文档:目前Deepseek尚无法直接从文档中提取参考内容。例如询问“阿众是谁”,系统会反馈未知信息。此时需点击上传按钮,将本地文档导入软件。
关于大模型搭建本地知识库和打造模型的介绍到此就结束了,感谢阅读。
发表评论