上下文工程

上下文工程关注本轮模型需要的整个信息集合，而不仅是Prompt措辞。相关方法包括按需获取、渐进披露、压缩、笔记与子Agent，但不要求每次同时使用全部机制。

有限注意与有限窗口意味着信息需要选择。更多内容可能提供证据，也可能引入过期结论和噪声；更少内容节省成本，也可能漏掉约束。

原创练习：把一项代码任务的输入分成常驻规则、当前证据、可重新获取历史三组，说明每组何时进入上下文。再用任务成功而非Token最少评价方案。

完成标准是能解释每段输入为何在本轮有用，不把上下文工程简化成“写一个更长的系统Prompt”。

Lost in the Middle研究相关信息在长输入中的位置如何影响模型表现。其结论来自特定模型与任务，不能写成所有新模型在中间位置必然失败。

位置效应只是长上下文风险之一。干扰信息、多个证据组合、否定条件和版本冲突也会影响工程任务。

原创练习：将同一兼容性约束放在不同位置，加入不同长度的无关日志，多次运行同一修复任务。检查行为和约束遵循，而不仅是能否复述句子。

实验应固定其他条件并报告变异。一次成功不能证明长窗口可靠，一次失败也不足以概括所有任务。

上下文窗口文档说明模型可处理的信息范围及相关Token使用方式。窗口、输出预算、推理消耗和产品自动管理是不同概念，具体计算口径需要按接口核对。

不能把用户可见聊天字数直接当作全部输入，工具定义、结果与内部状态也可能占用相关预算。

原创练习：列出一次工具任务里除用户文本之外的全部内容来源，估计哪些可稳定复用、哪些每轮增长，再用实际接口统计核对。

完成标准是理解预算组成与限制，不记忆一个可能很快变化的最大Token数字作为全部能力说明。

LongBench通过多任务、长输入设置评价长上下文理解。不同任务可能要求检索、总结或综合信息，不能用单一任务分数代表所有长任务能力。

评测长度、语言、数据来源和评分方式都影响解释。模型能处理长文章问答，不等于能在多轮代码修改中保持执行状态。

原创练习：为同一长材料设计事实定位、跨段推断和约束遵循三个问题，比较所需信息与评分方法。明确哪些答案可以确定性验证。

阅读基准的价值是学习如何构造有区分力的任务，而不是只记录某模型当时排名。

RULER关注标称上下文长度与实际有效能力之间的差异，通过不同任务与长度测试模型。它提醒我们，接口接受输入只是能力评价的起点。

简单找回单条信息与进行多步组合推理不同；长度增加时的失败也可能来自干扰和任务复杂度，而非单纯容量不足。

原创练习：逐步增加必须共同满足的约束数量，同时固定总输入长度，观察是否出现与单条检索不同的退化。

不要把某个合成基准结果直接换算成实际仓库可处理的最大文件数。真实工程仍需自己的端到端验证。

OpenAI Compaction提供专用压缩状态，使长交互能够在有限上下文中继续。部分返回内容是不透明或加密表示，不应假设它等同于一段可编辑的人类摘要。

应用应按正式接口保存和传递这些状态，不能自行伪造字段或声称能恢复所有原始内容。完整审计仍需要独立保留原始证据。

原创练习：比较“只保存压缩结果”与“保存任务状态加原始日志引用”两种恢复方案，检查精确错误码和历史限制能否重获。

压缩是否有用取决于后续任务质量与总成本，不只是压缩比。看不到内部表示也不能当作无损保证。

Claude的压缩机制用于在会话增长后保留任务连续性。摘要式管理会改变历史的表示，具体接口、触发条件和保留范围需要按当前文档理解。

摘要必须处理目标、已完成步骤、证据与不确定性。最常见的风险不是漏掉关键词，而是把“可能”改成“确认”或把“待验证”改成“通过”。

原创练习：准备含否定结论、禁止条件与旧版本结果的历史，压缩后逐条提问，并继续执行任务验证。

完成标准是保留有用语义与可恢复证据，不把摘要长度下降等同于长任务可靠性上升。

按需压缩允许在需要时主动整理上下文，而不是仅等待容量触发。任务阶段可能是有价值的边界，例如完成调查后进入实现，但不是所有阶段结束都必须压缩。

主动操作会增加一次处理，并可能影响缓存与信息保真。临近结束的任务未必值得支付这笔成本。

原创练习：比较固定间隔压缩、阶段结束压缩和不压缩三种策略，记录后续重复读取、约束遗漏与总耗时。

不要预设主动压缩优于自动压缩。真正问题是何时有足够冗余可清理，以及未来步骤还需要什么证据。

Context Editing针对历史内容进行清理，例如处理旧工具结果。它与把全部历史重写成摘要不同，二者对信息保留和缓存的影响也可能不同。

日志删除后，后续模型可能只知道动作发生过，却不知道精确返回。因此需要为重要证据保留可重新读取的引用。

原创练习：删除一次失败测试的长输出，仅留下命令、退出码、相关错误和完整日志路径，检查能否继续正确排查。

清理策略应按内容价值而非年龄独立决定。旧约束可能仍重要，最新的大段重复日志也可能没有价值。

阈值触发压缩根据Token等预算条件自动启动整理。阈值是资源控制手段，不等于模型理解了当前任务是否适合交接。

若恰好在关键证据尚未整理时触发，摘要更容易丢状态；阈值太晚又可能没有足够空间完成后续调用。

原创练习：在同一长任务的不同位置触发压缩，比较保留的未完成步骤与证据。把触发点、输入长度和后续成功分别记录。

不能只调一个阈值解决所有问题。任务状态结构、输出控制、工具结果粒度与原始证据外置同样重要。

Prompt缓存复用符合条件的相同前缀计算，压缩与编辑则改变内容。二者可能互相影响，但影响范围取决于实际修改位置和产品规则。

稳定前缀有利于复用，冗长无关前缀却可能损害上下文质量。缓存命中率高不代表业务收益高。

原创练习：计算一次压缩调用、之后重新预填充、输入减少和证据重读的总成本，比较短剩余任务与长剩余任务。

完成标准是用成功任务成本与质量判断方案，不把缓存、记忆和压缩作为同一个功能讨论。