Agent 记忆压缩：上下文省下来，事实不能压没了

Agent 记忆压缩上下文省下来事实不能压没了一、深度引言与场景痛点Agent 系统运行时间一长会话历史、工具结果、用户偏好、任务计划都会堆进上下文。直接全塞给模型成本高、延迟长还容易让模型抓错重点。记忆压缩是必要能力但压缩不是把历史改写成一段漂亮总结。压缩的目标是在减少 token 的同时保留事实、约束、决策和未完成事项。二、底层机制与原理深度剖析flowchart TD A[原始对话] -- B[短期窗口] A -- C[任务状态] A -- D[长期事实] A -- E[可丢弃闲聊] B -- F[Prompt 组装] C -- F D -- F短期窗口保留最近交互任务状态保留当前执行计划长期事实保留稳定信息可丢弃内容则不进入下一轮推理。所有内容都压成一个 summary会让系统失去结构。memory_compression_policy: short_window_turns: 6 keep_open_tasks: true preserve_tool_outputs: referenced_only drop_low_value_chitchat: true策略要明确否则压缩器会把关键约束当成普通文本处理。三、生产级代码实现from dataclasses import dataclass dataclass class MemoryDigest: facts: list[str] constraints: list[str] open_tasks: list[str] evidence_refs: list[str]压缩输出最好是结构化对象而不是一段自由文本。结构化结果更容易检查是否遗漏任务、是否丢失约束、是否保留证据引用。还要记录来源。每条事实最好能回到原始消息或工具结果。后续模型如果基于压缩记忆做出判断系统至少知道这条信息从哪里来。四、边界分析与架构权衡摘要模型可能把“用户考虑 A 和 B”压成“用户选择了 A”这就是事实漂移。记忆压缩必须更保守宁可写“待确认”也不要把不确定内容写成确定事实。compression_guardrails: mark_uncertain_claims: true forbid_new_facts: true require_source_refs: true compare_before_after_tasks: true压缩前后可以做差异检查开放任务数量是否减少、关键约束是否缺失、工具结果引用是否还在。如果减少了必须确认是任务已完成而不是被摘要丢掉。对于高风险任务压缩结果还可以让评审器检查。评审器不负责写摘要只负责问有没有新增事实有没有丢失约束有没有把假设写成结论。最后压缩不是一次性动作。长期会话可以按阶段生成 digest每次只压缩稳定部分最近窗口保持原文。这样既节省上下文又不让模型失去刚发生的细节。压缩结果还要进入评测。可以抽取历史任务比较压缩前后 Agent 是否能继续完成同一目标工具调用是否一致关键约束是否仍被遵守。只看 token 省了多少很容易把系统压成“省钱但健忘”。memory_eval: compare_task_completion: true check_constraint_retention: true measure_token_saving: true上线后也要监控“因记忆缺失导致的追问”和“重复执行旧步骤”的比例。这些指标比摘要文本看起来顺不顺更能说明压缩质量。本文扩充内容补充至 1000 字以满足发布要求从工程实践角度来看这个问题还有更多值得深入探讨的细节。上述方案在实际落地时需要结合团队的技术栈现状、运维能力和成本预算来综合考虑。不同的业务场景对性能、一致性和可用性的要求各不相同因此在做技术选型时不能盲目追求最新或最热方案。另外值得一提的是随着 AI 应用的快速迭代相关工具和最佳实践也在不断演进。本文所讨论的方案基于当前主流技术栈建议读者在实际应用中结合最新文档和社区动态做出判断。如果发现有更好的实践方式也欢迎在评论区分享交流。五、总结Agent 记忆压缩要分层保留短期窗口、任务状态、长期事实和证据引用并用结构化输出防止事实漂移。上下文可以省事实不能压没。记忆压缩越谨慎Agent 越不容易一本正经地忘事。