一张图看懂AI工程全貌：7大模块、50+核心概念、5层技术栈，小白也能轻松入门并收藏学习

本文将AI工程拆解为7大模块涵盖Transformer、Prompt工程、Agent架构、RAG等核心概念并给出关键论文、选型决策和模块间关联旨在帮助读者建立系统化的AI工程认知框架。通过本文读者可以了解AI工程的发展历程、核心技术和应用场景为进一步学习和实践AI工程打下坚实基础。写在前面最近在研究怎么把一个agent不局限于某个类型的小龙虾养成有记忆会思考能反思可自进化的专家。其中涉及到很重要的一部分内容就是领域知识的积累。所以就把AI工程相关的知识给做了个搜索归纳和总结先分享出来后续基于这个地图我再一一展开进行学习及实践。下面开始正文5000字左右建议先收藏有时间细读一张图看懂 AI Engineering 全貌——7 大模块、50 核心概念、5 层技术栈帮你建立系统化的 AI 工程认知框架。前言为什么需要一张 AI 工程知识图谱过去两年AI 领域的论文数量呈指数增长新框架每周冒出来新概念层出不穷。很多同学的感受是学不完今天学 RAG明天出 GraphRAG后天又来 Agentic RAG连不上Transformer、Prompt Engineering、Agent、MCP 之间是什么关系用不对知道概念但不知道什么时候用、怎么选型知识图谱解决的就是连不上的问题——不是教你每个概念的细节而是帮你建立概念之间的连接关系形成一张可导航的地图。本文将 AI 工程拆解为 7 大模块每个模块给出核心概念、关键论文、选型决策和模块间关联最终形成一张完整的知识图谱。一、知识图谱总览二、模块 1基石与里程碑核心时间线必读论文 Top 5入门优先级排序Attention Is All You Need (2017) — Transformer所有大模型的祖先GPT-3 (2020) — 涌现能力In-Context LearningInstructGPT (2022) — RLHF 对齐三阶段Chain-of-Thought (2022) — 让模型一步步思考ReAct (2022) — Agent 架构的理论基础关键术语速查三、模块 2大模型架构与训练Transformer 核心结构Self-Attention 直觉类比QQuery “我在找什么”KKey “我是什么”被搜索的标签VValue “我的内容”实际信息就像在图书馆Q 是你的问题K 是书名V 是书的内容。根据问题与书名的匹配度决定花多少注意力在每本书上。训练三阶段核心公式数据质量 数据数量。宁可 1 万条高质量不要 100 万条低质量。高效微调方法选型推理优化模型选型决策树你的场景├── 通用对话/创作 → GPT-4o / Claude Sonnet├── 复杂推理/数学 → o3 / DeepSeek-R1├── 代码生成 → Claude Opus 4├── 超长文档 → Gemini 2.0 (1M 窗口)├── 本地部署/隐私 → Llama 3.1 / Qwen 2.5├── 中文场景 → Qwen 2.5 / DeepSeek└── 成本敏感 → DeepSeek-V3四、模块 3Prompt 工程Prompt 的本质完整的 Prompt 角色 上下文 指令 输入 输出格式 约束同一个模型Prompt 不同输出质量可以差 10 倍。核心模式CoT 的变体进化Zero-Shot CoT → Lets think step by step ↓Few-Shot CoT → 给带推理过程的示例 ↓Self-Consistency → 多次采样取一致性最高的答案 ↓Tree of Thoughts → 树状搜索多条推理路径System Prompt 架构设计一个优秀的 System Prompt 应该是分层的System Prompt 身份层 (我是谁) 灵魂层 (我怎么思考) 知识层 (我知道什么) 记忆层 (我经历过什么) 工具层 (我能做什么)Prompt 注入防御2026 前沿Prompt Bloat 问题MCP 工具数量爆炸 → 工具描述塞满 context → LLM 工具选择准确率下降。解法RAG-as-Routing用语义检索预筛选工具top-k只把相关工具注入 Prompt。实测 prompt token 降低 60%。五、模块 4Agent 架构Agent LLM 记忆 工具 规划Agent 核心循环Perceive (感知) → Think (思考) → Act (行动) → Observe (观察) → 循环五大设计模式模式 1ReAct最广泛使用Thought → Action → Observation → Thought → Action → …简单直观但串行执行没有全局规划。模式 2Plan-and-Execute制定完整计划 → 逐步执行 → 根据中间结果 Replan有全局视角适合复杂任务。模式 3Reflexion执行 → 自我评估 → 存储反思 → 下次避免同类错误持续自我改进。模式 4Multi-AgentOrchestrator ├── Researcher → 信息收集 ├── Writer → 内容生成 └── Reviewer → 质量检查—— 分工协作适合复杂工作流。模式 5Tool-Use AgentLLM 决定何时调用什么工具。模型不是执行工具而是生成工具调用的 JSON 描述由外部系统执行。记忆系统设计Agent 框架选型2026 关键洞察Agent 系统工程三角编排 记忆治理 工具可靠性决定 Agent 能否真正落地。六、模块 5上下文工程与 RAG核心矛盾“看到” ≠ “记住”Lost in the Middle 问题模型对上下文开头和结尾更敏感中间部分容易被忽略。即使窗口有 200K实际有效利用的可能只有 50-70%。上下文工程原则上下文 System Prompt (固定层) User Profile (半固定层) Retrieved Knowledge (动态检索层) Conversation History (对话层) Current Query (当前输入层)5 条黄金法则最相关的信息放在开头和结尾System Prompt 越精简越好动态检索胜于静态塞入摘要压缩胜于直接截断结构化Markdown/JSON胜于纯文本RAG 完整流程离线文档 → 解析 → 清洗 → 分块 → Embedding → 向量数据库在线查询 → Query Embedding → 向量检索 → 重排序 → 拼 Prompt → 生成1 分块策略选型最佳实践块大小 256-1024 Token重叠 10-20%。2 向量数据库选型3 高级 RAG 技术矩阵2026 前沿Agentic RAGRAG 正在从检索工具升级为Agent 基础设施架构选型简单问答 → Agentic RAG成本低跨实体全局推理 → GraphRAG不可替代七、模块 6Skills、MCP 与工具链MCP AI 的 USB 接口MCP (Model Context Protocol) Anthropic 提出的开放协议让 AI 模型标准化地连接外部工具和数据源。MCP Client (AI应用) ←─MCP协议─→ MCP Server (工具提供方) Claude/Cursor/CodeBuddy GitHub/Slack/数据库/文件系统Skill vs Prompt vs Tool2026 关键洞察RAG-MCPMCP 工具超过 30 个后必须启用 RAG-based Skill Router否则工具选择准确率崩溃八、模块 7评估与安全成本计算公式月成本 日均请求数 × 平均 Token 数 × Token 单价 × 30例10000 请求/天 × 2000 Token × $0.003/1K × 30 $1,800/月Agent 评估维度安全红线九、跨模块关联知识图谱的关键边知识图谱的价值不在于节点单个概念而在于边概念间的关系。关键关联 1Transformer → Prompt → AgentTransformer 的 Self-Attention 机制 → 使得模型能理解长距离依赖 → 使得 CoT (链式思考) 成为可能 → 使得 ReAct (推理行动) 成为可能 → Agent 架构的基础关键关联 2Embedding → RAG → AgentEmbedding 将文本映射到向量空间 → 使得语义检索成为可能 → RAG 用 Embedding 检索相关知识 → Agent 用 RAG 扩展知识边界 → Agentic RAG 让 Agent 自主决定检索策略关键关联 3MCP → Skill → AgentMCP 统一工具接口 → Skill 封装为可复用能力单元 → Agent 通过 Skill 调用工具 → RAG-MCP 解决工具选择问题关键关联 4记忆 → 上下文 → 压缩长期记忆文件/向量库 → 上下文窗口有限200K → 需要压缩摘要/截断/检索 → 迭代式摘要 Handoff 框架 → 记忆的 CRUD 遗忘机制十、学习路线图入门路线2-3 周3Blue1Brown 神经网络视频 → 建立直觉Jay Alammar “The Illustrated Transformer” → 理解 Transformer精读模块 1-3基石 架构 Prompt→ 打基础动手写 Prompt跑通 CoT / Few-Shot进阶路线4-6 周搭建一个 ReAct AgentLangChain/LangGraph实现一个 RAG 系统Chroma OpenAI Embedding精读模块 4-6Agent RAG MCP读 Chip Huyen《AI Engineering》深入路线持续精读 ReAct / RAG / CoT 原始论文研究 Hermes Agent 源码上下文压缩 记忆系统设计关注 2026 前沿Agentic RAG / GraphRAG / 推理模型关注 arXiv cs.CL 每月热门论文十一、2026 趋势总结十二、推荐资源结语AI 工程不是一堆孤立概念的堆砌而是一棵从 Transformer 根基长出的知识树Transformer 是根——Self-Attention 机制让一切成为可能Prompt 是干——用自然语言操控模型Agent 是枝——从被动回答到主动行动RAG 是叶——突破知识边界MCP 是果——让 AI 真正连接世界记住这张图你就不会在 AI 工程的知识海洋中迷路。最后如果说程序员已经是高薪职业那么干AI的程序员就是高薪中的高薪。现在的市场已经用数据给程序员指明了方向学AI大模型就是冲刺高薪的最优解看着身边越来越多的同行转型大模型、拿到高薪offer很多人心里都动了心但真正的难题来了零基础小白不知道从哪入门有基础的程序员找不到系统学习路径实战项目练手无门面试不知道考什么别慌今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包覆盖从入门到实战、从理论到面试、从基础到进阶的全流程所有资料均已整理归档无冗余、无套路免费分享给每一位想抓住AI风口的程序员和小白扫码免费领取全部内容1、大模型系统化学习路线2、大模型学习书籍文档3、AI大模型最新行业报告4、大模型项目实战配套源码5、大模型大厂面试真题四阶段精细化学习规划附时间节点可直接照做结合上述资源给大家整理了一份可直接落地的四阶段学习规划总时长约2个月小白可循序渐进程序员可根据自身基础调整节奏高效掌握大模型核心能力快速实现从“入门”到“能落地、能面试”的跨越。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容6、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】