*****************************************************
环境准备
操作系统:Windows11
内存:32GB RAM
存储:预留 300GB 可用空间
显存: 16G
网络: 100M带宽
前置准备: 已安装ollama环境 + deepseek本地大模型
*****************************************************
*****************************************************
setup1: 安装 Nomic-Embed-Text
用途: 基于 nomic-bert 架构开发文本嵌入模型模型,用于将文本中蕴含的语义信息编码到向量空间,便于计算机进行处理和分析
方法:
通过ollama官网搜索nomic 或 直接进入 (https://ollama.com/library/nomic-embed-text)
点击复制图标后,进入本地cmd命令行,粘贴
等待完成后会出现 "success"
*****************************************************
*****************************************************
setup2:安装 AnyThingLLM
用途: 开源项目, 用于构建基于基于大语言模型的私有化应用程序, 支持源码定制开发,支持Docker容器化部署
本次通过桌面客户端方式构建
方法:
访问 AnythingLLM官网 (https://anythingllm.com/) 点击下载 选择对应系统版本
进入安装界面,默认安装, 下一步即可 ( 确保国际外网可访问 )
*****************************************************
*****************************************************
setup3: 配置 AnyThingLLM
首次进入: 创建工作空间
设置ollama作为llm供应商
设置ollama model为离线安装的deepseek-r1:14b
向量数据库使用默认配置
向量化引擎(Embedder首选项) 选择 ollama 后 ,使用 Nomic-Embed-Text
*****************************************************
*****************************************************
setup4: 上传本地资料
点击工作空间
点击上传按钮
根据需求上传文件或连接你的数据库
保存并向量化
*****************************************************
基本以上步骤完成后即可
下面是搭建知识库前后效果对比: