RAG 是什么？为什么大模型需要外挂知识库？

大模型很强。它会写代码会总结会分析会对话。但它有三个硬伤不知道你的私有数据训练知识会过期上下文窗口也不是无限大。RAG 就是为了解决这三个问题。它不是让模型重新训练一次也不是把所有资料都塞给模型。它的核心动作很简单回答之前先去知识库里找资料。RAG 检索 生成。检索负责找依据生成负责把依据说成人话。一、为什么大模型需要外挂知识库先看一个真实场景。你问模型“我们公司 2026 年最新版报销制度里差旅住宿标准是多少”模型如果没有接入你的内部制度文档它只能猜。猜得再像也不是答案。这就是裸调模型的风险回答流畅不代表回答正确。1. 模型知识会过期大模型的训练数据通常有截止时间。训练之后发生的新政策、新公告、新产品文档它天然不知道。LangChain 官方 Retrieval 文档也明确指出LLM 有两个关键限制上下文有限以及训练知识是静态的Retrieval 通过在查询时获取外部知识来解决这些问题。2. 模型不知道你的私有数据企业真正有价值的数据往往不在公开互联网里。比如合同、制度、客服 FAQ、订单状态、研报库、内部知识库、产品手册、故障工单。这些内容不能指望模型“天生知道”。必须在用户提问时动态检索。3. 模型上下文不是无限大就算你有 10 万页文档也不能全部塞进 Prompt。上下文窗口再大也不是数据库。RAG 的做法是只找和当前问题最相关的几段资料把它们作为上下文交给模型。二、RAG 的本质不是训练模型而是给模型递资料很多人第一次听 RAG会误以为它是微调模型。不是。微调是改变模型参数。RAG 不改模型参数。RAG 是在模型回答前把相关资料临时放进上下文。这就像考试。微调是让学生重新学习。RAG 是允许学生开卷查资料。三、LangChain 里的 RAG 组件地图LangChain 做 RAG不是一个神秘黑盒。它把整个流程拆成了一组小组件。组件作用通俗理解Document Loader读取外部资料PDF、网页、Word、Markdown、数据库Document标准文档对象page_content、metadata、idText Splitter切分长文档把大文档切成可检索小块Embedding文本向量化把文本变成数字向量Vector Store存储与相似度搜索Milvus、Chroma、FAISS、Qdrant、ES VectorRetriever检索入口输入问题返回 Document 列表Prompt组织上下文把问题和资料拼成模型输入Model生成答案基于资料回答而不是凭空编四、RAG 的最小单位 Document在 LangChain 里RAG 不是直接处理“PDF 文件”。PDF、网页、Markdown、数据库记录最后都要转换成 Document。Document 是 RAG 里的最小知识单元。它一般代表一个文档片段也就是我们常说的 Chunk。源码里Document 继承自 BaseMedia。BaseMedia 提供 id 和 metadataDocument 自己提供 page_content。# 简化后的源码结构不是完整源码class BaseMedia:id: str | Nonemetadata: dictclass Document(BaseMedia):page_content: strtype: Literal[Document] Document这里要抓住一个核心点Document 不是 Message。Message 是模型对话里的消息。Document 是检索流水线里的资料。这两个概念不能混。前面第四章讲过 Messages这一章讲的是知识库里的 Document。五、VectorStore 做了什么VectorStore 是向量数据库的统一抽象。它的任务不是生成答案。它只负责两件事存文档搜相似文档。从源码看VectorStore 把 Document 拆成 texts 和 metadatas再交给具体向量库实现。# 简化后的源码逻辑texts [doc.page_content for doc in documents]metadatas [doc.metadata for doc in documents]vectorstore.add_texts(texts, metadatas, idsids)这一步很关键。模型看的是文本向量库搜的是向量但工程系统追踪的是 metadata。所以生产环境里metadata 不能随便写。至少要有 source、page、title、doc_id、created_at、version 等字段。否则模型答错了你根本追不回来源。六、Retriever 为什么是 RAG 的核心入口Retriever 是 RAG 运行时的入口。用户提问后Retriever 接收 query返回一组 Document。LangChain 官方也把 Retriever 定义为输入非结构化查询输出 Document 列表。它比 Vector Store 更通用因为它不一定自己存文档。BaseRetriever 继承 RunnableSerializable所以它天然支持 invoke、ainvoke、batch、abatch。这就是 LangChain 的工程味道Retriever 不是孤立工具函数而是可组合、可追踪、可异步、可批处理的 Runnable。# 简化后的源码执行链result retriever.invoke(用户问题)# invoke 内部大致做三件事# 1. 准备 config / callbacks / metadata# 2. 触发 on_retriever_start# 3. 调用 _get_relevant_documents(query)# 4. 触发 on_retriever_end返回 List[Document]所以自定义 Retriever 的核心不是重写 invoke而是实现 _get_relevant_documents。你可以把 ES 检索、数据库检索、API 搜索、图数据库检索、混合检索都封装成 Retriever。七、VectorStoreRetriever 只是一个路由器很多人以为 VectorStoreRetriever 很复杂。其实它的核心很直白。VectorStore.as_retriever() 会返回一个 VectorStoreRetriever。这个对象保存了 vectorstore、search_type、search_kwargs。源码里支持三类常用搜索方式similarity普通相似度搜索适合大多数基础 RAG。similarity_score_threshold带分数阈值只保留超过相关度的结果。mmr最大边际相关性既看相关性也看结果之间的多样性。# 简化后的源码逻辑if search_type similarity:docs vectorstore.similarity_search(query, **kwargs)elif search_type similarity_score_threshold:docs vectorstore.similarity_search_with_relevance_scores(query, **kwargs)elif search_type mmr:docs vectorstore.max_marginal_relevance_search(query, **kwargs)这段逻辑很短但很重要。RAG 的效果很多时候不是模型不行而是这里的参数没调好k 太小召回不全k 太大噪声太多没有 filter跨业务文档乱召回没有阈值低相关资料也进了 Prompt。八、RAG 的三种架构2-Step、Agentic、HybridRAG 不是只有一种写法。LangChain 官方 Retrieval 文档把 RAG 架构分成 2-Step RAG、Agentic RAG、Hybrid RAG。1. 2-Step RAG简单、稳定、快固定流程先检索再生成。适合 FAQ、文档问答、产品手册、内部制度查询。优点是可控。缺点是不够灵活。无论问题需不需要检索它都先检索。2. Agentic RAG让模型决定是否检索Agentic RAG 把检索封装成工具。模型自己判断要不要查知识库查哪个知识库查几次。适合研究助手、多工具助手、多源知识库。缺点是不可控因素更多延迟和成本也更不稳定。3. Hybrid RAG生产环境更常见Hybrid RAG 会在固定检索和模型判断之间加校验步骤。比如先召回再重排再判断资料是否足够再决定是否二次检索最后生成答案并引用来源。金融、医疗、法律、企业知识库更适合这种方式。九、企业项目里 RAG 应该怎么落地不要把 LangChain 当成整个系统。它只是 AI 服务里的核心编排层。真正上线时外面还要有业务系统、权限、任务调度、日志、缓存、评测、后台配置。推荐架构很清晰Spring Boot 负责用户、权限、业务接口、管理后台、审计日志。Python FastAPI 负责 LangChain、LangGraph、RAG、模型调用、工具调用。Milvus / ES / MySQL / Redis 负责数据存储、检索、缓存。LangSmith 或自建 Trace 负责观察每次检索和生成链路。十、RAG 准确率优化的关键点很多人做 RAG上来就换大模型。这不一定对。如果检索回来的资料就是错的模型再强也只能把错资料说得更流畅。1. 数据源要干净脏数据进库脏答案出库。文档版本、发布时间、来源、业务域必须管理好。2. Chunk 要合理Chunk 太大检索不准Chunk 太小上下文断裂。企业文档最好按标题、章节、段落结构切而不是机械按字符切。3. 检索要混合纯向量检索擅长语义相似但对编号、股票代码、订单号、专有名词不一定稳定。生产环境常用向量召回 BM25 关键词召回 元数据过滤 RRF 融合 Rerank。4. 答案要可追溯RAG 的底线不是“看起来像对的”。底线是每个关键结论都能追到来源。没有来源的回答不要轻易上线到高风险场景。十一、源码脉络总结RAG 的本质就是这条链。Loader 负责读。Splitter 负责切。Embedding 负责变向量。VectorStore 负责存和搜。Retriever 负责取。Prompt 负责组织。Model 负责表达。十二、总结RAG 不是微调模型而是回答前检索外部知识。大模型的三个硬伤知识过期、私有数据不知道、上下文有限。LangChain 的 RAG 组件是模块化的可以单独替换。Document 是最小知识单元Retriever 是运行时核心入口。VectorStoreRetriever 本质是 search_type 路由器。生产级 RAG 的关键不是“模型会不会说”而是“资料找得准不准”。下一章我们继续往下拆Document Loader。也就是 LangChain 如何读取 PDF、网页、Word、Markdown、数据库把它们变成标准 Document。内容来源RAG 是什么为什么大模型需要外挂知识库功能变化与行业影响解析_热闻岛