1. 基础入门1.1 大模型背景与基本原理定义大语言模型是基于Transformer架构、通过海量文本数据预训练得到的生成式AI模型具备自然语言理解、生成、推理等通用能力是AI智能体的核心决策与推理引擎。主流大模型按开源属性与地域可分为三大阵营核心代表如下阵营分类核心代表模型典型特点闭源商用GPT-4o / o3 / o4-mini、Claude 4 Opus、Gemini 2.5 Pro能力上限高、服务稳定、按调用量计费开源通用Qwen 3、DeepSeek-V3/R1、Llama 4、Mistral Large 2可本地化部署、数据可控、支持二次定制国产商用通义千问、智谱GLM-4、文心一言4.5、讯飞星火4.0、Kimi合规性强、中文优化、本地化服务支持完善三种主流部署方式的特性对比如下部署方式核心优势主要劣势适用场景本地部署Ollama / vLLM / llama.cpp数据隐私可控、无网络延迟算力要求高、运维成本高企业内部系统、高频敏感场景云端API调用弹性扩缩容、免运维、快速接入存在网络延迟、长期调用成本累积原型开发、初期验证、低频次调用混合部署分层处理、灵活兼顾隐私与成本架构复杂度高、协同逻辑复杂企业级生产系统、分级业务场景大模型基础API调用的最简实现如下可直观体现大模型的基础调用逻辑from openai import OpenAI # 初始化客户端可替换为任意兼容OpenAI协议的模型服务 client OpenAI(base_urlhttp://localhost:11434/v1, api_keyollama) def chat_with_llm(prompt: str) - str: 调用大模型生成回复 Args: prompt: 输入提示词 Returns: 模型生成的文本结果 response client.chat.completions.create( modelqwen3:latest, messages[{role: user, content: prompt}] ) # 提取模型返回的第一条消息内容大模型与智能体的关系可以类比为大脑与完整人体的关系大模型是核心大脑负责思考、推理与决策智能体是完整的数字个体除大脑外还配备了手脚工具调用、记忆存储系统、感官环境感知能够自主与外部世界交互完成复杂任务。学习提示跳过原理直接使用框架是常见误区。先理解Transformer、注意力机制、Token化等基础概念后续调优与排障效率将显著提升。1.2 提示词工程定义提示词工程是通过优化输入文本的结构、内容与格式引导大模型输出符合预期结果的技术是低成本调控大模型行为、提升输出质量的核心手段。核心提示词技术的能力与适用场景如下技术类型核心逻辑适用场景效果提升幅度Zero-Shot直接提问依赖模型内化知识简单通用问题、快速验证基础输出Few-Shot提供2-5个示例引导输出格式与质量格式要求严格、标准化输出场景30%-50%思维链CoT引导模型分步推理输出思考过程数学计算、逻辑推理、复杂分析40%-70%Self-Consistency多次采样取多数一致结果高准确率要求的推理任务15%-30%结构化提示词的标准模板实现如下可直接复用至各类业务场景# 结构化提示词模板角色 上下文 任务 示例 输出约束PROMPT_TEMPLATE 【角色设定】你是一名专业的数据分析助手擅长从结构化数据中提取核心结论。【上下文信息】以下是本次分析的原始数据{context_data}【任务要求】请基于上述数据完成分析输出核心结论与业务建议。【输出格式】1. 核心结论不超过3条每条一句话2. 业务建议不超过2条具备可执行性【示例参考】输入月度销售额数据输出1. 核心结论6月销售额环比增长15%华东区域贡献主要增量2. 业务建议加大华东区域营销投入复制成功经验至其他区域提示词工程的逻辑与给员工下达工作指令高度相似指令越明确、上下文越充分、格式要求越清晰交付结果的质量就越高思维链相当于要求员工同步提交思考过程既能降低出错概率也方便追溯结果的推导逻辑。趋势说明2025-2026年Meta-Prompting与DSPy等自动化提示词优化方案正在逐步替代手工调优复杂场景下提示词工程的重心正向声明式编程与自动优化方向迁移。1.3 开发环境与工具链定义AI智能体开发环境是包含语言运行时、模型推理工具、容器化设施与协议工具的完整技术栈为智能体的开发、调试、部署与运行提供基础支撑。核心工具链按功能分类如下工具分类核心工具主要用途2026推荐选型Python环境管理uv / Conda / pyenv依赖管理、Python版本控制uv替代pip/poetry性能提升显著本地模型运行Ollama / vLLM / llama.cpp本地部署与调试大模型Ollama一键部署、vLLM高性能生产推理容器化工具Docker docker-compose环境一致性、打包部署Docker 官方镜像 compose编排MCP生态工具Claude Desktop / Continue.dev / MCP注册表MCP工具开发、调试与接入Claude Desktop客户端调试、Python MCP SDK v2Java环境Spring AI Alibaba / NacosJava技术栈智能体开发Spring Boot 3.x Spring AI标准开发环境的搭建流程命令如下# 1. 使用uv创建Python虚拟环境并安装核心依赖 uv venv agent-env source agent-env/bin/activate uv add langchain langgraph openai gradio # 2. 安装Ollama并拉取本地测试模型 curl -fsSL https://ollama.com/install.sh | sh ollama pull qwen3:latest # 3. 验证模型服务可用性 ollama list开发工具链的作用相当于工匠的工作台环境管理工具是工具箱保证工具摆放整齐、版本统一本地模型运行工具是工作台的加工机床随时可以试做样品容器化工具是标准化包装箱做好的产品打包后可以在任何环境正常运行。
AI智能体开发学习文档(一)
发布时间:2026/7/16 9:46:06
1. 基础入门1.1 大模型背景与基本原理定义大语言模型是基于Transformer架构、通过海量文本数据预训练得到的生成式AI模型具备自然语言理解、生成、推理等通用能力是AI智能体的核心决策与推理引擎。主流大模型按开源属性与地域可分为三大阵营核心代表如下阵营分类核心代表模型典型特点闭源商用GPT-4o / o3 / o4-mini、Claude 4 Opus、Gemini 2.5 Pro能力上限高、服务稳定、按调用量计费开源通用Qwen 3、DeepSeek-V3/R1、Llama 4、Mistral Large 2可本地化部署、数据可控、支持二次定制国产商用通义千问、智谱GLM-4、文心一言4.5、讯飞星火4.0、Kimi合规性强、中文优化、本地化服务支持完善三种主流部署方式的特性对比如下部署方式核心优势主要劣势适用场景本地部署Ollama / vLLM / llama.cpp数据隐私可控、无网络延迟算力要求高、运维成本高企业内部系统、高频敏感场景云端API调用弹性扩缩容、免运维、快速接入存在网络延迟、长期调用成本累积原型开发、初期验证、低频次调用混合部署分层处理、灵活兼顾隐私与成本架构复杂度高、协同逻辑复杂企业级生产系统、分级业务场景大模型基础API调用的最简实现如下可直观体现大模型的基础调用逻辑from openai import OpenAI # 初始化客户端可替换为任意兼容OpenAI协议的模型服务 client OpenAI(base_urlhttp://localhost:11434/v1, api_keyollama) def chat_with_llm(prompt: str) - str: 调用大模型生成回复 Args: prompt: 输入提示词 Returns: 模型生成的文本结果 response client.chat.completions.create( modelqwen3:latest, messages[{role: user, content: prompt}] ) # 提取模型返回的第一条消息内容大模型与智能体的关系可以类比为大脑与完整人体的关系大模型是核心大脑负责思考、推理与决策智能体是完整的数字个体除大脑外还配备了手脚工具调用、记忆存储系统、感官环境感知能够自主与外部世界交互完成复杂任务。学习提示跳过原理直接使用框架是常见误区。先理解Transformer、注意力机制、Token化等基础概念后续调优与排障效率将显著提升。1.2 提示词工程定义提示词工程是通过优化输入文本的结构、内容与格式引导大模型输出符合预期结果的技术是低成本调控大模型行为、提升输出质量的核心手段。核心提示词技术的能力与适用场景如下技术类型核心逻辑适用场景效果提升幅度Zero-Shot直接提问依赖模型内化知识简单通用问题、快速验证基础输出Few-Shot提供2-5个示例引导输出格式与质量格式要求严格、标准化输出场景30%-50%思维链CoT引导模型分步推理输出思考过程数学计算、逻辑推理、复杂分析40%-70%Self-Consistency多次采样取多数一致结果高准确率要求的推理任务15%-30%结构化提示词的标准模板实现如下可直接复用至各类业务场景# 结构化提示词模板角色 上下文 任务 示例 输出约束PROMPT_TEMPLATE 【角色设定】你是一名专业的数据分析助手擅长从结构化数据中提取核心结论。【上下文信息】以下是本次分析的原始数据{context_data}【任务要求】请基于上述数据完成分析输出核心结论与业务建议。【输出格式】1. 核心结论不超过3条每条一句话2. 业务建议不超过2条具备可执行性【示例参考】输入月度销售额数据输出1. 核心结论6月销售额环比增长15%华东区域贡献主要增量2. 业务建议加大华东区域营销投入复制成功经验至其他区域提示词工程的逻辑与给员工下达工作指令高度相似指令越明确、上下文越充分、格式要求越清晰交付结果的质量就越高思维链相当于要求员工同步提交思考过程既能降低出错概率也方便追溯结果的推导逻辑。趋势说明2025-2026年Meta-Prompting与DSPy等自动化提示词优化方案正在逐步替代手工调优复杂场景下提示词工程的重心正向声明式编程与自动优化方向迁移。1.3 开发环境与工具链定义AI智能体开发环境是包含语言运行时、模型推理工具、容器化设施与协议工具的完整技术栈为智能体的开发、调试、部署与运行提供基础支撑。核心工具链按功能分类如下工具分类核心工具主要用途2026推荐选型Python环境管理uv / Conda / pyenv依赖管理、Python版本控制uv替代pip/poetry性能提升显著本地模型运行Ollama / vLLM / llama.cpp本地部署与调试大模型Ollama一键部署、vLLM高性能生产推理容器化工具Docker docker-compose环境一致性、打包部署Docker 官方镜像 compose编排MCP生态工具Claude Desktop / Continue.dev / MCP注册表MCP工具开发、调试与接入Claude Desktop客户端调试、Python MCP SDK v2Java环境Spring AI Alibaba / NacosJava技术栈智能体开发Spring Boot 3.x Spring AI标准开发环境的搭建流程命令如下# 1. 使用uv创建Python虚拟环境并安装核心依赖 uv venv agent-env source agent-env/bin/activate uv add langchain langgraph openai gradio # 2. 安装Ollama并拉取本地测试模型 curl -fsSL https://ollama.com/install.sh | sh ollama pull qwen3:latest # 3. 验证模型服务可用性 ollama list开发工具链的作用相当于工匠的工作台环境管理工具是工具箱保证工具摆放整齐、版本统一本地模型运行工具是工作台的加工机床随时可以试做样品容器化工具是标准化包装箱做好的产品打包后可以在任何环境正常运行。