Spring AI 2.0.0 RAG 实战：别让知识库只活在内存里

本地验证 RAG 链路时SimpleVectorStore很顺手。几段文本切一下向量化放进内存接口一调就能看到相似内容。这一步能先确认三件事EmbeddingModel 能不能生成向量VectorStore 能不能检索相似内容ChatClient 能不能把检索资料交给模型回答问题通常出在下一步排障手册、产品说明、制度文档不可能一直躺在应用内存里。它们会更新、会下线、会有版本权限也不一样。你会碰到这些问题应用重启后向量数据怎么保留服务部署多台机器怎么共用一份知识库文档更新后旧 chunk 怎么删不同角色能看的资料不同检索前怎么过滤PgVector 适合放在这一层向量数据存进 PostgreSQL持久化、共享、metadata 过滤都有地方落。这条链路会换成这样textOllama bge-m3生成 embeddingPgVector存储和检索向量DeepSeek deepseek-v4-flash根据检索资料生成回答接口保留三个就够text/rag/ingest读取 txt 并写入向量库/rag/search检索相似资料/rag/ask检索后交给模型回答一、换的是存储不是整条 RAG 链路Spring AI 里RAG 相关代码通常会碰到三类对象textEmbeddingModel把文本转成向量VectorStore保存向量并做相似度检索ChatClient / ChatModel根据问题和资料生成回答SimpleVectorStore和PgVector都是在VectorStore这一层。所以换 PgVector不是把整条 RAG 链路推倒重来。EmbeddingModel还是负责生成向量。ChatClient还是负责把问题和检索资料交给模型生成回答。主要变化是VectorStore的具体实现从内存存储换成 PostgreSQL。业务代码还是面向VectorStore写。二、先准备依赖和环境pom.xml里需要这几个依赖xmlgroupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-deepseek/artifactIdgroupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-ollama/artifactIdgroupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-vector-store-pgvector/artifactIdgroupIdorg.postgresql/groupId artifactIdpostgresql/artifactId scoperuntime/scope本地先准备 PostgreSQL 和 embedding 模型这里用 Ollama 跑bge-m3。如果你想省事可以直接用带 pgvector 的镜像bashdocker run -it --rm --name postgres \-p 5432:5432 \-e POSTGRES_USERpostgres \-e POSTGRES_PASSWORDpostgres \pgvector/pgvector:pg16普通 PostgreSQL 也可以用但要先安装相关扩展。Spring AI 的 PgVectorStore 初始化表结构时会用到vector、hstore、uuid-ossp这几个扩展。如果数据库缺少 pgvector 扩展应用启动时就可能报类似这样的错textcould not open extension control file … vector.control再启动 embedding 模型bashollama pull bge-m3ollama servebge-m3是 embedding 模型不是聊天模型。这里用它做本地向量化/rag/ingest和/rag/search不依赖远程 embedding 服务。如果要测试/rag/ask再配置 DeepSeek Keybashexport DEEPSEEK_API_KEY你的 DeepSeek API Key三、配置 PgVectorapplication.yaml这样写yamlspring:application:name: springai-deepseek-demodatasource:url: ${POSTGRES\_URL:jdbc:postgresql://localhost:5432/postgres} username: ${POSTGRES\_USER:postgres} password: ${POSTGRES\_PASSWORD:postgres}ai:model: chat: deepseek embedding: ollama deepseek: api-key: ${DEEPSEEK\_API\_KEY:dummy-key} chat: model: deepseek-v4-flash ollama: base-url: http://localhost:11434 embedding: model: bge-m3 vectorstore: pgvector: initialize-schema: true distance-type: COSINE\_DISTANCE dimensions: 1024 max-document-batch-size: 10000initialize-schema: true本地开发时可以打开。应用启动后Spring AI 会尝试在 PostgreSQL 里创建 PgVector 需要的扩展、schema、默认表和索引默认表名是vector_store所以示例代码里没有单独写建表 SQL。前提是当前数据库用户有创建扩展和建表的权限。生产环境不要依赖应用启动时自动建表。表结构和扩展安装最好交给团队已有的数据库变更流程管理。dimensions: 1024要和 embedding 模型输出维度一致。这里用的是bge-m3向量维度是 1024。distance-type: COSINE_DISTANCE表示用余弦距离做相似度检索这里先用它。四、从 txt 文档读取到向量库知识内容不要写死在 Java 代码里。先准备一个 txt 文档textsrc/main/resources/rag/incident-runbook.txttxt 里放几条排障记录。这里的logicalId是给人看的逻辑编号真正写入 PgVector 的id使用稳定 UUIDtextlogicalId: INCIDENT-001system: incidentstatus: publishedcategory: payment支付接口偶发 500先拿 traceId 查应用日志不要一上来就让用户重新支付。日志里如果是 gateway timeout、read timed out 这一类超时先看支付网关耗时和重试次数再看订单状态有没有回写成功。最近半小时有过发布的话把支付签名、回调地址、商户配置这几项一起过一遍支付问题经常出在配置变更后。确认上一笔支付没有生成流水之前不要引导用户重复下单。5 分钟内同类错误超过 20 次带上 traceId、订单号、支付流水号升级给值班负责人。logicalId: INCIDENT-002system: incidentstatus: publishedcategory: database连接池打满时先看 active、idle、waiting 三个指标再翻连接池超时日志。active 长时间贴着 max pool size通常不是简单把池子调大就完事。先查慢 SQL、长事务还有连接有没有正常释放。慢 SQL 先看执行计划和扫描行数尤其是最近改过查询条件或新增排序的接口。临时扩容连接池可以救急但要盯住数据库 CPU、IO 和锁等待别把压力直接推到数据库上。看到 lock wait 或 deadlock先找持锁 SQL。该回滚发布还是该降级功能等锁源头确认后再定。logicalId: INCIDENT-003system: incidentstatus: publishedcategory: timeout接口超时不要先猜代码慢。先看调用链把耗时拆到 Controller、Service、数据库和外部接口几个段上。耗时集中在下游服务时看下游错误率、P95/P99 和最近发布记录只看平均耗时很容易漏掉长尾。耗时卡在线程池排队时看队列长度、拒绝次数和单个任务执行时间必要时把慢请求样本捞出来单独看。只有少量用户偶发超时重点看时间段、用户范围、请求参数和 traceId很多时候是某类数据把路径打慢了。logicalId: INCIDENT-004system: incidentstatus: internalcategory: permission应急预案只对值班同学开放普通研发默认只能查看通用排查手册。降级开关、限流阈值、支付通道切换、批量补偿任务都要值班负责人确认后再操作。没有对应权限的用户只返回通用排查建议不暴露内部开关名称、后台地址和操作口令。高风险操作要记录操作人、确认人、影响范围和回滚方式方便事后复盘。这个文件只约定两件事text用 — 分隔不同文档每段前面放 metadata空一行后面放正文正文放在 txt 里Java 代码只负责读取和入库。以后内容变了改 txt 就行。metadata 可以理解成每段资料的标签。比如status: published表示可以被检索status: internal表示内部资料。Controller 里注入这个文件javaprivate final Resource runbook;public RagController(VectorStore vectorStore, ChatClient.Builder builder,Value(classpath:rag/incident-runbook.txt) Resource runbook) { this.vectorStore vectorStore; this.chatClient builder.build(); this.runbook runbook;}/rag/ingest负责读取 txt并写入向量库javaPostMapping(“/ingest”)public IngestResponse ingest() throws IOException {ListDocument documents loadRunbookDocuments(); vectorStore.add(documents); return new IngestResponse(documents.size(), documents.stream() .map(DocumentItem::from) .toList());}真正写入 PgVector 的动作发生在vectorStore.add(documents)。它会先调用 embedding 模型生成向量再把文本、metadata 和 embedding 写入 PostgreSQL 的vector_store表。读取时按---切块再逐块转成Documentjavaprivate List loadRunbookDocuments() throws IOException {String content runbook.getContentAsString(StandardCharsets.UTF\_8); return Arrays.stream(content.split((?m)^---\\s\*$)) .map(String::trim) .filter(block - !block.isBlank()) .map(this::toDocument) .toList();}转换成Document时把logicalId保留下来同时生成 PgVector 更适合使用的 UUIDjavaimport java.nio.charset.StandardCharsets;import java.util.UUID;private Document toDocument(String block) {String[] parts block.split(\\R\\R, 2); if (parts.length ! 2) { throw new IllegalArgumentException(Runbook block must contain metadata and body separated by a blank line.); } MapString, Object metadata parseMetadata(parts[0]); String logicalId metadata.remove(logicalId).toString(); metadata.put(logicalId, logicalId); String text parts[1].trim(); return new Document(UUID.nameUUIDFromBytes(logicalId.getBytes(StandardCharsets.UTF\_8)).toString(), text, metadata);}这样人看文档时看INCIDENT-001数据库里用稳定 UUID。检索时仍然走VectorStorejavaprivate List retrieve(String question) {return vectorStore.similaritySearch(SearchRequest.builder() .query(question) .topK(3) .filterExpression(system incident status published) .build());}注意这一行java.filterExpression(“system ‘incident’ status ‘published’”)INCIDENT-004的状态是internal不会进入检索结果。权限、状态、租户、版本这些东西要在检索层先过滤。五、实际跑一下启动应用bash./mvnw spring-boot:run先读取 txt并写入向量库bashcurl -X POST “http://localhost:8080/rag/ingest”返回里能看到写入了 4 条文档。再检索支付错误bashcurl --get “http://localhost:8080/rag/search” \–data-urlencode “question分析支付错误”中文问题建议用--data-urlencode别直接拼到 URL 后面。返回里会优先命中INCIDENT-001。节选如下json{“question”: “分析支付错误”,“matches”: [{ id: 9ee4017f-b2aa-35c3-a794-33c7fa6ae6a6, text: 支付接口偶发 500先拿 traceId 查应用日志不要一上来就让用户重新支付。, score: 0.6748, metadata: { system: incident, category: payment, logicalId: INCIDENT-001, status: published } }]}换一个问题再检索接口超时bashcurl --get “http://localhost:8080/rag/search” \–data-urlencode “question接口超时应该先查什么”这次会优先命中INCIDENT-003text接口超时排查时先看调用链耗时再确认下游服务、线程池队列和连接池状态。最后测试回答接口bashcurl --get “http://localhost:8080/rag/ask” \–data-urlencode “question分析支付错误”这个接口会先从 PgVector 检索资料再交给 DeepSeekdeepseek-v4-flash生成回答。没有真实DEEPSEEK_API_KEY时/rag/ingest和/rag/search仍然能验证向量写入和检索/rag/ask需要真实模型 Key。六、进项目以后还差什么把SimpleVectorStore换成 PgVector只是把向量存储这层换稳。再往项目里放还要补几块。第一件事是 metadata。RAG 不能只看语义相似。比如这句接口超时应该先查什么普通研发可以看通用排查手册。值班同学可能还能看应急预案。平台负责人可能还能看更完整的链路配置。如果这些文档都放在一个向量库里检索前就要过滤。只靠 Prompt 写一句不稳text请不要回答用户无权限查看的内容。不如在文档入库时就把 metadata 留好texttenantIddepartmentdocTypevisibilityversionsourceupdatedAtstatusmetadata 写得太粗后面会很别扭查不准、权限控不住、也不好回溯。其他几件事也要提前想好文档导入独立出来本地可以手动调用/rag/ingest项目里更适合做成管理后台、定时任务或者知识库同步流程。文档更新要有版本策略别让新旧 chunk 混在一起。检索日志要留至少保留用户问题、topK、命中的文档 id、metadata 和最终回答。生产建表走正式变更流程别依赖应用启动时临时创建。写在最后SimpleVectorStore适合把 RAG 主链路跑通PgVector 适合把向量数据长期放进项目里。text用 bge-m3 生成 embedding读取 txt转成 Document再写入 PgVector用 metadata filter 检索 published 文档把检索结果交给 deepseek-v4-flash 回答先把这条链路跑稳再去调 chunk、rerank、混合检索和评估集。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】