《AI不是魔法》写给软件工程师的AI工程课第八堂AI为什么越来越像操作系统这一篇适合谁如果你发现AI应用越来越复杂、想知道它背后的架构逻辑、以及为什么大家都在说“AI OS”——那么这一篇值得看完。上一堂课我们知道Agent不是一种新的智能它只是让Prediction可以不断继续发生。这一堂课我们继续回答当Prediction越来越多、越来越复杂会发生什么一个团队用Agent处理CI失败。一开始很顺利Agent读日志、改MR、通知Slack一条龙搞定。但很快需求越来越多Agent要记住上次是怎么修的——不能每次从头学同时有多个CI失败——哪个优先处理测试环境和生产环境的权限不一样——Agent能改测试环境的配置但不能碰生产环境一个Agent忙不过来——需要多个Agent分工协作团队发现他们原本只想要一个Agent最后却开始设计任务队列、权限系统、记忆系统、工具管理、调度策略。这到底是为什么一、Prediction越来越长Memory必然出现第七篇我们说过Agent的本质是让Prediction进入循环。但循环带来一个新问题Context越来越长。第一次循环Context里只有用户的提问。第二次循环Context里增加了第一次查询的结果。第三次循环Context里又增加了第二次调用的返回值。第十次循环Context已经大到放不下了。LLM的Context Window是有限的。当Context超出窗口最早的内容就会被挤掉——Agent会忘记自己最初的目标忘记之前做过什么忘记已经得到的结果。所以Memory必然出现。Prediction越来越长 ↓ Context放不下 ↓ Memory不是有人发明了Memory而是Prediction的Loop越来越长Context放不下于是Context必须外包。Memory不是什么新奇的概念。它就是Context的外包存储——放不下的Context存到外面去需要的时候再拿回来。没有MemoryPrediction的Loop就无法持续变长。二、Prediction越来越多Workflow必然出现一个Agent循环没问题。两个Agent同时循环开始有问题。十个Agent同时循环一片混乱。哪个Agent优先执行一个Agent的执行结果是另一个Agent的输入谁先谁后一个Agent失败了其他Agent要等着吗一个Agent跑了两小时超时了怎么处理所以Workflow必然出现。Prediction越来越多 ↓ Loop开始冲突 ↓ Workflow不是有人发明了Workflow而是Prediction越来越多开始抢资源、开始互相等待、开始失败于是必须调度。Workflow不是什么神秘的概念。它管理Prediction发生的顺序——决定哪个Prediction先发生、哪个后发生、失败了怎么办。没有WorkflowPrediction的Loop就会变成失控的循环。三、Prediction越来越危险Permission必然出现Agent能调用的工具越来越多GitLab、Jenkins、数据库、邮件、Slack、生产环境API。每一次Prediction都可能触发一次工具调用。每一次工具调用都可能影响真实世界。客服Agent的Prediction查订单安全、改价格危险运维Agent的Prediction读日志安全、删数据库危险数据分析Agent的Prediction查报表安全、发通知危险所以Permission必然出现。Prediction越来越危险 ↓ Tool影响世界 ↓ Permission不是有人规定了权限而是Prediction越来越容易影响世界风险越来越高于是Prediction影响世界的能力必须受到限制。Permission不是什么官僚主义。它限制Prediction影响世界的能力——决定哪些Prediction可以做哪些不能做。没有PermissionPrediction越能干越危险。四、Prediction越来越复杂Multi-Agent必然出现一个Agent处理一个简单任务没问题。但有些任务太复杂了既要查知识库又要调多个工具又要生成报告又要发送通知一个Agent的Context装不下这么多信息一个Agent的Loop周期太长效率太低所以Multi-Agent必然出现。Prediction越来越复杂 ↓ 一个Prediction装不下 ↓ Multi-Agent不是有人发明了多Agent而是一个Prediction已经装不下整个任务Prediction必须拆分于是多个Prediction、多个Agent分工协作。Multi-Agent不是什么高级概念。它管理Prediction的分工协作——复杂任务拆成多个子任务每个子任务由一个Agent负责最后汇总结果。没有Multi-Agent一个Agent扛不住复杂任务。五、为什么这越来越像操作系统把前面全部收束你会发现惊人的对应关系。Prediction的演化过程Prediction越来越长 → Context放不下 → Memory Prediction越来越多 → Loop开始冲突 → Workflow Prediction越来越危险 → Tool影响世界 → Permission Prediction越来越复杂 → 一个Prediction装不下 → Multi-Agent这四个东西——Memory、Workflow、Permission、Multi-Agent——合在一起是什么有没有觉得很眼熟传统操作系统做的事情文件系统 → 管理数据对应Memory 进程调度 → 管理任务对应Workflow 权限控制 → 管理安全对应Permission 多进程协作 → 管理分工对应Multi-AgentAI不是越来越像操作系统。它已经开始重复操作系统的发展历史。传统操作系统负责管理计算资源。AI操作系统负责管理智能资源——包括Prediction、Context、Memory、Workflow、Tool、Agent。过去计算机围绕计算构建。未来AI系统将围绕Prediction构建。一个真实的工程案例某公司搭建了一个内部AI平台支撑多个Agent同时运行客服Agent处理客户咨询需要访问订单系统和知识库运维Agent监控系统状态需要访问日志系统和CI工具数据分析Agent定期生成报表需要访问数据库和BI工具最初每个Agent独立开发各自管理工具连接、知识库、权限。结果三个Agent三套工具适配三套知识库三套权限管理。维护成本爆炸。后来他们做了一个统一平台统一的Memory管理共享Context存储统一的Workflow引擎任务编排与调度统一的Permission系统谁可以调什么工具统一的Agent通信机制多Agent协作这个平台本质上就是一个“AI操作系统”。每个Agent不再关心底层基础设施只需要专注于自己的业务逻辑。一个一分钟思维实验回想一下你每天使用的操作系统。你打开浏览器、编辑器、终端——它们同时运行互不干扰。你不需要关心CPU怎么分配、内存怎么管理、硬盘怎么读写。操作系统帮你搞定了一切。现在想象一下如果你的AI应用也能这样——多个Agent同时运行互不干扰资源共享统一管理——它是不是越来越像一个操作系统工程师容易踩的坑 错误做法 把所有AI能力都塞进一个Agent让它自己管理一切。 为什么错 一个Agent的能力边界是有限的。没有合理的分工、调度、权限管理Agent很快就会变成一团乱麻。 ✅ 正确做法 像设计操作系统一样设计AI系统——分层、模块化、职责分离。Agent只负责业务逻辑基础设施由统一平台管理。今天记住这一句话AI越来越像操作系统不是因为设计如此而是因为复杂到一定程度它必须如此。如果今天只带走一个观点那就是过去计算机围绕计算构建。未来AI系统将围绕Prediction构建。系列世界观升级走到第八篇整本书的视角从“AI能力”升级到了“AI系统架构”。回头看这八篇你会发现一个规律我们从来没有发明一种新的智能。我们只是不断让Prediction拥有越来越好的生存环境。第一篇Prediction 第二篇Prompt → Prediction理解用户 第三篇Transformer → Prediction更高效 第四篇RAG → Prediction获得知识 第五篇Function Calling → Prediction影响世界 第六篇MCP → Prediction连接工具 第七篇Agent → Prediction不断继续 第八篇Memory / Workflow / Permission / Multi-Agent → Prediction不会遗忘、井然有序、受到约束、分工协作AI从来没有越来越聪明。Prediction只是越来越容易发生。下一篇预告当AI越来越像一个系统问题也变了。过去我们只需要判断一句回答对不对。现在我们要判断一个系统是否完成了任务、是否安全、是否稳定、是否可控。下一篇我们聊AI回答得好不好到底谁说了算
AI为什么越来越像操作系统?——为什么Agent发展到最后,一定会变成一个调度系统?
发布时间:2026/6/30 23:28:31
《AI不是魔法》写给软件工程师的AI工程课第八堂AI为什么越来越像操作系统这一篇适合谁如果你发现AI应用越来越复杂、想知道它背后的架构逻辑、以及为什么大家都在说“AI OS”——那么这一篇值得看完。上一堂课我们知道Agent不是一种新的智能它只是让Prediction可以不断继续发生。这一堂课我们继续回答当Prediction越来越多、越来越复杂会发生什么一个团队用Agent处理CI失败。一开始很顺利Agent读日志、改MR、通知Slack一条龙搞定。但很快需求越来越多Agent要记住上次是怎么修的——不能每次从头学同时有多个CI失败——哪个优先处理测试环境和生产环境的权限不一样——Agent能改测试环境的配置但不能碰生产环境一个Agent忙不过来——需要多个Agent分工协作团队发现他们原本只想要一个Agent最后却开始设计任务队列、权限系统、记忆系统、工具管理、调度策略。这到底是为什么一、Prediction越来越长Memory必然出现第七篇我们说过Agent的本质是让Prediction进入循环。但循环带来一个新问题Context越来越长。第一次循环Context里只有用户的提问。第二次循环Context里增加了第一次查询的结果。第三次循环Context里又增加了第二次调用的返回值。第十次循环Context已经大到放不下了。LLM的Context Window是有限的。当Context超出窗口最早的内容就会被挤掉——Agent会忘记自己最初的目标忘记之前做过什么忘记已经得到的结果。所以Memory必然出现。Prediction越来越长 ↓ Context放不下 ↓ Memory不是有人发明了Memory而是Prediction的Loop越来越长Context放不下于是Context必须外包。Memory不是什么新奇的概念。它就是Context的外包存储——放不下的Context存到外面去需要的时候再拿回来。没有MemoryPrediction的Loop就无法持续变长。二、Prediction越来越多Workflow必然出现一个Agent循环没问题。两个Agent同时循环开始有问题。十个Agent同时循环一片混乱。哪个Agent优先执行一个Agent的执行结果是另一个Agent的输入谁先谁后一个Agent失败了其他Agent要等着吗一个Agent跑了两小时超时了怎么处理所以Workflow必然出现。Prediction越来越多 ↓ Loop开始冲突 ↓ Workflow不是有人发明了Workflow而是Prediction越来越多开始抢资源、开始互相等待、开始失败于是必须调度。Workflow不是什么神秘的概念。它管理Prediction发生的顺序——决定哪个Prediction先发生、哪个后发生、失败了怎么办。没有WorkflowPrediction的Loop就会变成失控的循环。三、Prediction越来越危险Permission必然出现Agent能调用的工具越来越多GitLab、Jenkins、数据库、邮件、Slack、生产环境API。每一次Prediction都可能触发一次工具调用。每一次工具调用都可能影响真实世界。客服Agent的Prediction查订单安全、改价格危险运维Agent的Prediction读日志安全、删数据库危险数据分析Agent的Prediction查报表安全、发通知危险所以Permission必然出现。Prediction越来越危险 ↓ Tool影响世界 ↓ Permission不是有人规定了权限而是Prediction越来越容易影响世界风险越来越高于是Prediction影响世界的能力必须受到限制。Permission不是什么官僚主义。它限制Prediction影响世界的能力——决定哪些Prediction可以做哪些不能做。没有PermissionPrediction越能干越危险。四、Prediction越来越复杂Multi-Agent必然出现一个Agent处理一个简单任务没问题。但有些任务太复杂了既要查知识库又要调多个工具又要生成报告又要发送通知一个Agent的Context装不下这么多信息一个Agent的Loop周期太长效率太低所以Multi-Agent必然出现。Prediction越来越复杂 ↓ 一个Prediction装不下 ↓ Multi-Agent不是有人发明了多Agent而是一个Prediction已经装不下整个任务Prediction必须拆分于是多个Prediction、多个Agent分工协作。Multi-Agent不是什么高级概念。它管理Prediction的分工协作——复杂任务拆成多个子任务每个子任务由一个Agent负责最后汇总结果。没有Multi-Agent一个Agent扛不住复杂任务。五、为什么这越来越像操作系统把前面全部收束你会发现惊人的对应关系。Prediction的演化过程Prediction越来越长 → Context放不下 → Memory Prediction越来越多 → Loop开始冲突 → Workflow Prediction越来越危险 → Tool影响世界 → Permission Prediction越来越复杂 → 一个Prediction装不下 → Multi-Agent这四个东西——Memory、Workflow、Permission、Multi-Agent——合在一起是什么有没有觉得很眼熟传统操作系统做的事情文件系统 → 管理数据对应Memory 进程调度 → 管理任务对应Workflow 权限控制 → 管理安全对应Permission 多进程协作 → 管理分工对应Multi-AgentAI不是越来越像操作系统。它已经开始重复操作系统的发展历史。传统操作系统负责管理计算资源。AI操作系统负责管理智能资源——包括Prediction、Context、Memory、Workflow、Tool、Agent。过去计算机围绕计算构建。未来AI系统将围绕Prediction构建。一个真实的工程案例某公司搭建了一个内部AI平台支撑多个Agent同时运行客服Agent处理客户咨询需要访问订单系统和知识库运维Agent监控系统状态需要访问日志系统和CI工具数据分析Agent定期生成报表需要访问数据库和BI工具最初每个Agent独立开发各自管理工具连接、知识库、权限。结果三个Agent三套工具适配三套知识库三套权限管理。维护成本爆炸。后来他们做了一个统一平台统一的Memory管理共享Context存储统一的Workflow引擎任务编排与调度统一的Permission系统谁可以调什么工具统一的Agent通信机制多Agent协作这个平台本质上就是一个“AI操作系统”。每个Agent不再关心底层基础设施只需要专注于自己的业务逻辑。一个一分钟思维实验回想一下你每天使用的操作系统。你打开浏览器、编辑器、终端——它们同时运行互不干扰。你不需要关心CPU怎么分配、内存怎么管理、硬盘怎么读写。操作系统帮你搞定了一切。现在想象一下如果你的AI应用也能这样——多个Agent同时运行互不干扰资源共享统一管理——它是不是越来越像一个操作系统工程师容易踩的坑 错误做法 把所有AI能力都塞进一个Agent让它自己管理一切。 为什么错 一个Agent的能力边界是有限的。没有合理的分工、调度、权限管理Agent很快就会变成一团乱麻。 ✅ 正确做法 像设计操作系统一样设计AI系统——分层、模块化、职责分离。Agent只负责业务逻辑基础设施由统一平台管理。今天记住这一句话AI越来越像操作系统不是因为设计如此而是因为复杂到一定程度它必须如此。如果今天只带走一个观点那就是过去计算机围绕计算构建。未来AI系统将围绕Prediction构建。系列世界观升级走到第八篇整本书的视角从“AI能力”升级到了“AI系统架构”。回头看这八篇你会发现一个规律我们从来没有发明一种新的智能。我们只是不断让Prediction拥有越来越好的生存环境。第一篇Prediction 第二篇Prompt → Prediction理解用户 第三篇Transformer → Prediction更高效 第四篇RAG → Prediction获得知识 第五篇Function Calling → Prediction影响世界 第六篇MCP → Prediction连接工具 第七篇Agent → Prediction不断继续 第八篇Memory / Workflow / Permission / Multi-Agent → Prediction不会遗忘、井然有序、受到约束、分工协作AI从来没有越来越聪明。Prediction只是越来越容易发生。下一篇预告当AI越来越像一个系统问题也变了。过去我们只需要判断一句回答对不对。现在我们要判断一个系统是否完成了任务、是否安全、是否稳定、是否可控。下一篇我们聊AI回答得好不好到底谁说了算