深度拆解 AI 智能体 Harness 架构设计与实现 本文深入探讨 Anthropic、OpenAI、Perplexity 和 LangChain 真正在构建什么。涵盖编排循环、工具、记忆、上下文管理以及将无状态大语言模型转变为全能智能体的其他一切。你已经构建了一个聊天机器人。也许你还用几个工具搭了一个 ReAct 循环。演示时它能跑通。但当你试图构建生产级系统时轮子就掉了模型忘了三步前做了什么工具调用无声地失败上下文窗口塞满了垃圾。问题不在你的模型。而在模型周围的一切。LangChain 证明了这一点当他们只改变包裹大语言模型的基础设施同样的模型同样的权重就从 TerminalBench 2.0 的前 30 名之外跃升至第 5 名。另一个研究项目通过让大语言模型优化基础设施本身达到了 76.4% 的通过率超越了人工设计的系统。那套基础设施现在有了名字智能体驾驭层Agent Harness。一、什么是智能体 Harness这个术语在 2026 年初被正式提出但概念早已存在。Harness 是包裹大语言模型的完整软件基础设施编排循环、工具、记忆、上下文管理、状态持久化、错误处理和安全护栏。Anthropic 的 Claude Code 文档说得简单SDK 就是驱动 Claude Code 的智能体 Harness。OpenAI 的 Codex 团队也使用同样的表述明确将智能体和Harness这两个词等同起来指代让大语言模型变得有用的非模型基础设施。我很喜欢 LangChain 的 Vivek Trivedy 提出的那个经典公式“如果你不是模型你就是 Harness。”这里有个容易让人混淆的区别。智能体是涌现出来的行为那个以目标为导向、使用工具、自我修正的、用户与之交互的实体。而 Harness 是产生这种行为的机器。当有人说我构建了一个智能体时他们的意思其实是他们构建了一个 Harness然后把它指向了一个模型。Beren Millidge 在 2023 年的文章《脚手架式大语言模型作为自然语言计算机》中把这个类比说得很精确。一个原始的大语言模型就像一台没有内存、没有硬盘、没有 I/O 的 CPU。上下文窗口充当内存快但有限。外部数据库充当硬盘存储大但慢。工具集成充当设备驱动。Harness 就是操作系统。正如 Millidge 所写“我们重新发明了冯·诺依曼架构”因为这是任何计算系统的自然抽象。二、三个工程层级模型周围有三个同心圆的工程层级提示工程Prompt Engineering精心制作模型接收的指令。上下文工程Context Engineering管理模型在什么时间看到什么内容。驾驭工程Harness Engineering涵盖以上两者再加上整个应用基础设施工具编排、状态持久化、错误恢复、验证循环、安全执行和生命周期管理。Harness 不是提示词的外包装。它是让自主智能体行为成为可能的完整系统。三、生产级 Harness 的 12 个组件综合 Anthropic、OpenAI、LangChain 以及更广泛的实践者社区的观点一个生产级智能体 Harness 包含十二个不同的组件。我们逐一剖析。编排循环The Orchestration Loop这是心跳。它实现了思考-行动-观察TAO循环也叫 ReAct 循环。循环的运行方式是组装提示词 → 调用大语言模型 → 解析输出 → 执行任何工具调用 → 将结果反馈回去 → 重复直到完成。从机制上讲它通常只是一个 while 循环。复杂性存在于循环管理的一切之中而不是循环本身。Anthropic 将他们的运行时描述为一个笨循环所有智能都存在于模型中。Harness 只是管理轮次。工具Tools工具是智能体的双手。它们被定义为模式名称、描述、参数类型注入到大语言模型的上下文中让模型知道有哪些可用工具。工具层处理注册、模式验证、参数提取、沙盒化执行、结果捕获以及将结果格式化回大语言模型可读的观察内容。Claude Code 提供六大类工具文件操作、搜索、执行、网络访问、代码智能和子智能体生成。OpenAI 的 Agents SDK 支持函数工具通过function_tool、托管工具WebSearch、CodeInterpreter、FileSearch和 MCP 服务器工具。记忆Memory记忆在多个时间尺度上运作。短期记忆是单次会话内的对话历史。长期记忆跨会话持久化Anthropic 使用CLAUDE.md项目文件和自动生成的MEMORY.md文件LangGraph 使用按命名空间组织的 JSON 存储OpenAI 支持由 SQLite 或 Redis 支撑的会话Sessions。Claude Code 实现了一个三层层级结构一个轻量级索引每条约 150 个字符始终加载、按需拉取的详细主题文件、以及仅通过搜索访问的原始转录文本。一个关键的设计原则是智能体将自己的记忆视为提示在行动前会针对实际状态进行验证。上下文管理Context Management这是许多智能体无声失败的地方。核心问题是上下文腐烂context rot当关键内容落在窗口中间位置时模型性能下降 30% 以上Chroma 的研究与斯坦福的Lost in the Middle发现相互印证。即使是百万 token 的窗口随着上下文增长指令遵循能力也会下降。生产级策略包括压缩Compaction接近限制时总结对话历史Claude Code 保留架构决策和未解决的 bug同时丢弃冗余的工具输出。观察屏蔽Observation MaskingJetBrains 的 Junie 隐藏旧的工具输出但保留工具调用可见。即时检索Just-in-time Retrieval维护轻量级标识符并动态加载数据Claude Code 使用grep、glob、head、tail而不是加载完整文件。子智能体委托Sub-agent Delegation每个子智能体进行广泛探索但只返回 1,000 到 2,000 token 的浓缩摘要。Anthropic 的上下文工程指南指出目标是找到最小的高信号 token 集合以最大化期望结果的可能性。提示词构建Prompt Construction这负责组装模型在每一步实际看到的内容。它是分层的系统提示词、工具定义、记忆文件、对话历史以及当前用户消息。OpenAI 的 Codex 使用严格的优先级栈服务器控制的系统消息最高优先级、工具定义、开发者指令、用户指令级联的AGENTS.md文件32 KiB 限制然后是对话历史。输出解析Output Parsing现代 Harness 依赖原生工具调用模型返回结构化的 tool_calls 对象而不是必须解析的自由文本。Harness 检查有工具调用吗执行它们并循环。没有工具调用那就是最终答案。对于结构化输出OpenAI 和 LangChain 都支持通过 Pydantic 模型进行模式约束的响应。像RetryWithErrorOutputParser 这样的传统方法将原始提示词、失败的完成内容和解析错误反馈给模型在边缘情况下仍然可用。状态管理State ManagementLangGraph 将状态建模为流经图节点的类型化字典通过 reducer 合并更新。检查点发生在超级步骤边界支持中断后恢复和时间旅行调试。OpenAI 提供四种互斥策略应用内存、SDK 会话、服务器端 Conversations API或轻量级的 previous_response_id 链式调用。Claude Code 采取了不同方法用 git 提交作为检查点用进度文件作为结构化草稿本。错误处理Error Handling这之所以重要是因为一个 10 步流程如果每步成功率 99%端到端成功率也只有约 90.4%。错误会快速复合。LangGraph 区分四种错误类型瞬态错误带退避的重试、大语言模型可恢复错误将错误作为 ToolMessage 返回让模型自行调整、用户可修复错误中断以获取人工输入、以及意外错误冒泡以供调试。Anthropic 在工具处理程序内部捕获失败并将它们作为错误结果返回以保持循环运行。Stripe 的生产级 Harness 将重试次数上限设为两次。护栏与安全Guardrails and SafetyOpenAI 的 SDK 实现了三个层级输入护栏在第一个智能体上运行、输出护栏在最终输出上运行、工具护栏在每次工具调用上运行。一个绊线tripwire机制在触发时立即停止智能体。Anthropic 在架构上将权限执行与模型推理分离。模型决定尝试什么工具系统决定允许什么。Claude Code 独立控制约 40 个离散的工具能力分为三个阶段项目加载时的信任建立、每次工具调用前的权限检查、以及高风险操作的显式用户确认。验证循环Verification Loops这是区分玩具演示和生产级智能体的东西。Anthropic 推荐三种方法基于规则的反馈测试、linter、类型检查器、视觉反馈通过 Playwright 截图用于 UI 任务、以及大语言模型作为裁判一个单独的子智能体评估输出。Claude Code 的创建者 Boris Cherny 指出给模型一种验证其工作的方式能将质量提升 2 到 3 倍。子智能体编排Subagent OrchestrationClaude Code 支持三种执行模型Fork父上下文的字节级相同副本、Teammate单独的终端面板基于文件的邮箱通信、以及 Worktree 拥有自己的 git 工作树每个智能体一个独立分支。OpenAI 的 SDK 支持智能体作为工具专家处理有界的子任务和交接handoffs专家完全接管控制。LangGraph 将子智能体实现为嵌套状态图。四、循环运转逐步拆解既然你已经了解了各个组件让我们追踪它们如何在一个循环中协同工作。第 1 步提示词组装Harness 构建完整输入系统提示词 工具模式 记忆文件 对话历史 当前用户消息。重要上下文被放置在提示词的开头和结尾基于Lost in the Middle发现。第 2 步大语言模型推理组装的提示词被发送到模型 API。模型生成输出 token文本、工具调用请求或两者兼有。第 3 步输出分类如果模型只产生了文本而没有工具调用循环结束。如果它请求了工具调用进入执行阶段。如果请求了交接更新当前智能体并重新开始。第 4 步工具执行对于每个工具调用Harness 验证参数、检查权限、在沙盒环境中执行、并捕获结果。只读操作可以并发运行变更操作串行运行。第 5 步结果打包工具结果被格式化为大语言模型可读的消息。错误被捕获并作为错误结果返回以便模型自我纠正。第 6 步上下文更新结果被追加到对话历史。如果接近上下文窗口限制Harness 触发压缩。第 7 步循环返回第 1 步。重复直到终止。终止条件是分层设置的模型产生没有工具调用的响应、超过最大轮次限制、token 预算耗尽、护栏绊线触发、用户中断、或返回安全拒绝。一个简单问题可能需要 1 到 2 轮。一个复杂的重构任务可以跨多轮串联几十个工具调用。对于跨越多个上下文窗口的长时间运行任务Anthropic 开发了一种两阶段的Ralph Loop模式一个初始化智能体设置环境初始化脚本、进度文件、功能列表、初始 git 提交然后每个后续会话中的编码智能体读取 git 日志和进度文件来定位自己挑选最高优先级的未完成功能进行工作提交并写入摘要。文件系统提供了跨上下文窗口的连续性。五、真实 Harness 如何实现这一模式Anthropic 的 Claude Agent SDK 通过单个query() 函数暴露 Harness该函数创建智能体循环并返回一个异步迭代器来流式传输消息。运行时是一个笨循环。所有智能都存在于模型中。Claude Code 使用一个收集-行动-验证循环收集上下文搜索文件、阅读代码、采取行动编辑文件、运行命令、验证结果运行测试、检查输出重复。OpenAI 的 Agents SDK 通过Runner类实现 Harness具有三种模式异步、同步和流式。该 SDK 是代码优先的工作流逻辑用原生 Python 表达而不是图 DSL。Codex Harness 在此基础上扩展了三层架构Codex Core智能体代码 运行时、App Server双向 JSON-RPC API和客户端界面CLI、VS Code、网页应用。所有界面共享同一个 Harness这就是为什么Codex 模型在 Codex 界面上感觉比在通用聊天窗口中更好。LangGraph 将 Harness 建模为显式状态图。两个节点llm_call和tool_node通过条件边连接如果存在工具调用路由到 tool_node如果不存在路由到 END。LangGraph 从 LangChain 的 AgentExecutor 进化而来后者在 v0.2 中被弃用因为它难以扩展且缺乏多智能体支持。LangChain 的 Deep Agents 明确使用了智能体 Harness这一术语内置工具、规划write_todos工具、用于上下文管理的文件系统、子智能体生成和持久化记忆。CrewAI 实现了基于角色的多智能体架构Agent围绕大语言模型的 Harness由角色、目标、背景故事和工具定义、Task工作单元和 Crew智能体集合。CrewAI 的 Flows 层增加了在关键处注入智能的确定性骨架管理路由和验证而 Crews 处理自主协作。AutoGen正在演变为 Microsoft Agent Framework开创了对话驱动的编排。其三层架构Core、AgentChat、Extensions支持五种编排模式顺序、并发扇出/扇入、群聊、交接和 magentic一个管理智能体维护动态任务账本协调专家。六、脚手架隐喻脚手架隐喻不是装饰性的。它是精确的。建筑脚手架是临时基础设施让工人能够建造他们 otherwise 无法到达的结构。它不做建造工作。但没有它工人就上不了高层。关键洞察建筑完工时脚手架会被拆除。随着模型改进Harness 复杂性应该降低。Manus 在六个月内重写了五次每次重写都移除了复杂性。复杂的工具定义变成了通用的 shell 执行。管理智能体变成了简单的结构化交接。这指向了共同进化原则模型现在会在特定的 Harness 在环的情况下进行后训练。Claude Code 的模型学会了使用它被训练时所用的特定 Harness。改变工具实现可能会降低性能因为这种紧密耦合。Harness 设计的未来验证测试如果性能随着更强大的模型而提升且无需增加 Harness 复杂性那么设计就是合理的。七、定义每个 Harness 的七个决策每个 Harness 架构师都面临七个选择单智能体 vs. 多智能体。Anthropic 和 OpenAI 都说先最大化单智能体。多智能体系统增加开销额外的路由大语言模型调用、交接时的上下文丢失。只有当工具过载超过约 10 个重叠工具或存在明显分离的任务域时才进行拆分。ReAct vs. 计划-执行。ReAct 在每一步交错推理和行动灵活但每步成本更高。计划-执行将计划与执行分离。LLMCompiler 报告称比顺序 ReAct 快 3.6 倍。上下文窗口管理策略。五种生产级方法基于时间的清除、对话总结、观察屏蔽、结构化笔记和子智能体委托。ACON 研究表明通过优先保留推理痕迹而非原始工具输出token 减少了 26% 到 54%同时保持了 95% 以上的准确率。验证循环设计。计算验证测试、linter提供确定性的 ground truth。推理验证大语言模型作为裁判捕获语义问题但增加延迟。Martin Fowler 的 Thoughtworks 团队将其框定为引导器前馈在行动前引导与传感器反馈在行动后观察。权限和安全架构。宽松快但风险高自动批准大多数操作vs. 严格安全但慢每个操作都需要批准。选择取决于部署上下文。工具范围策略。更多工具通常意味着更差的性能。Vercel 从 v0 中移除了 80% 的工具结果反而更好。Claude Code 通过懒加载实现了 95% 的上下文缩减。原则只暴露当前步骤所需的最小工具集。Harness 厚度。多少逻辑存在于 Harness 中多少留给模型。Anthropic 押注簿 Harness 和模型改进。基于图的 Harness 押注显式控制。Anthropic 经常从 Claude Code 的 Harness 中删除规划步骤因为新版本模型内化了这种能力。八、Harness 就是产品两个使用相同模型的产品仅凭 Harness 设计就可能产生截然不同的性能。TerminalBench 的证据很明确只改变 Harness智能体就跃升了 20 多个排名位置。Harness 不是一个已解决的问题也不是一个商品化层。这里才是硬核工程所在将上下文作为稀缺资源管理、设计能在失败复合前捕获它们的验证循环、构建提供连续性而不产生幻觉的记忆系统、以及做出架构赌注该建多少脚手架又该留给模型多少。这个领域正朝着更薄的 Harness 发展因为大模型在改进。但 Harness 本身不会消失。即使是最强大的模型也需要某种东西来管理它的上下文窗口、执行它的工具调用、持久化它的状态、并验证它的工作。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】