零基础搭建个人AI知识库：用AnythingLLM部署本地大模型的完整教程
想拥有一个完全属于自己、数据不外泄的AI知识库吗？本教程将手把手教你使用AnythingLLM，在本地部署大语言模型，打造个性化的知识管理助手。无需编程基础，跟着步骤操作即可。
一、什么是AnythingLLM？
AnythingLLM是一款开源的桌面端AI知识库工具，支持连接多种本地和云端的大语言模型（如Llama、DeepSeek、GPT等），可以上传文档、网页等作为知识源，实现基于私有知识的智能问答。
核心优势：完全本地运行数据安全有保障；支持多种文档格式（PDF、Word、TXT、Markdown等）；内置RAG检索增强生成机制，回答基于你的私人知识库；配置简单，无需命令行操作。
二、安装步骤
第一步：下载安装包
访问AnythingLLM官网（github.com/Mintplex-Labs/anything-llm），根据你的操作系统下载对应版本（Windows选择.exe安装包，Mac选择.dmg文件）。
第二步：安装运行
双击安装包按照向导完成安装。启动后程序会自动引导进入初始配置界面。
第三步：选择语言模型
在模型配置页面，可以选择：Ollama（推荐新手使用，先安装Ollama然后通过Ollama拉取模型如llama3、qwen2等）；LM Studio（适合对模型有更多控制需求的高级用户）；云端API（也可以接入OpenAI、DeepSeek等云端API作为补充）。
第四步：配置向量数据库
AnythingLLM内置了LanceDB作为默认向量数据库，无需额外配置即可使用。
三、构建你的知识库
3.1 创建工作空间：建议为不同主题创建独立的工作空间，例如工作文档、学习笔记、项目资料等。
3.2 上传文档：在工作空间中点击上传文档，支持批量上传。支持的格式包括PDF文档、Word文件（.docx）、纯文本文件（.txt）、Markdown文件（.md）、CSV数据表格。
3.3 嵌入和索引：上传完成后，系统会自动对文档进行向量化处理。文档内容会被转换成向量数据存储到向量数据库中，用于后续的语义搜索。
四、开始使用
知识库构建完成后，你就可以在聊天界面询问任何与上传文档相关的问题了。AnythingLLM会自动检索知识库中最相关的片段，结合大模型的推理能力给出精确回答。实用技巧：在提问时提及具体文档名称可以帮助系统更精准定位信息；定期更新和整理知识库删除过时内容；合理设置块大小（Chunk Size）和重叠（Overlap）参数影响检索质量。
五、进阶配置
如果你有GPU（NVIDIA显卡），建议在Ollama中启用GPU加速，显着提升推理速度。推荐本地模型：Qwen2-7B（中文能力强，显存需求约8GB）、Llama3-8B（综合性能均衡，英文场景更优）、DeepSeek-Coder-6.7B（代码类知识库专用）。通过以上步骤，你就拥有了一个完全属于自己、功能强大的AI知识库助手。