上下文工程的核心方法
为下一步选择信息,而不是堆积全部历史。
对应资料:Effective Context Engineering [S084]
沿着对象与状态理解本章
上下文不是把所有文字连接起来就完成。先选本轮必需对象,再检查来源和依赖,再为输出与可能的工具结果留预算。图中的预算是教学整数,不是调用API后测出的实际Token计数。
下方图解的固定输入在“输入与适用条件”中声明。它用于解释本章机制,不与本章其他独立例子的数值暗中接续。
每轮上下文像一份有边界的工作资料
为什么“读得越多”有时反而越容易误解?
模型这轮只能使用被提供的材料。资料过少会缺依据,过多又会引入旧版本、重复结论或无关规则。关键不是把所有可用信息填满,而是准备能支持下一步动作的最小充分资料,同时留出生成空间。
输入与适用条件:100单位的教学预算,不是真实Tokenizer测量:规则20、任务10、工具15、证据20、输出预留20。全程同一配置。
1 / 5 · 加入规则
窄屏可左右滑动图形,或点击“放大图形”。文字解释紧随图后。
先固定不可省略的规则;外部资料不是同等级指令。
累计安排=20 / 100默认静止。用“下一步”看完解释再继续;播放到最后一步自动停止。键盘聚焦播放器后,可用左右键逐步查看、空格播放/暂停。图中颜色辅助区分,含义同时用文字注明。
为什么需要
控制成本与上下文干扰,同时避免省掉关键约束。
怎样实现
先保证目标和证据依赖完整,再对可重新读取的细节按需加载。
可能的代价与误解
删除一条否定条件或其适用版本,可能让短摘要比长原文更危险。
如何判断是否做对
让模型用本轮材料回答关键约束与下一步证据问题,检查是否需要重新取证。
上下文工程的对象是“本轮决策”
本篇对应Effective Context Engineering。核心问题不是怎样塞进更多资料,而是下一步需要哪些约束、事实、状态和工具信息。内容的价值随任务阶段变化。[S084]
原创例子:调查阶段需要失败日志和调用关系;实现阶段需要接口约束与相关代码;交付阶段需要补丁与最新验证。把所有历史无差别复制给每一轮,既增加成本,也可能保留旧假设污染。
一个可执行的信息分层
把输入分为稳定约束、当前任务状态、当前证据、可重读历史四层。稳定约束应短而明确;状态记录已完成与未完成;证据带来源与版本;历史留在外部并有可查路径。
这不是要求引入复杂数据库。小项目可以用简洁文件和工具结果引用实现。只有检索、更新或多用户规模出现实际瓶颈时,再增加基础设施。
五种减负方式不能混用
选择是不加入;裁剪是删除;摘要是改写;外置是保留在别处;重检索是需要时再取回。Prompt Cache则是计算复用,不改变这些内容本身的语义职责。[S092][S039]
每种方法都可能失败。没加入可能漏证据,删除可能丢失败线索,摘要可能改变确定性,外置可能引用失效,重检索可能找错版本。设计应明确补救路径。
一个前后对比
原创压缩前历史有:十次搜索、三种已排除原因、一个未确认假设、两次失败测试和一个禁止改动的接口。
压缩后应保留目标、禁止条件、已排除原因及依据、当前假设状态、最新修改和验证。不能只留下“调查了很多,准备修复”,因为那不能指导继续工作。
怎样判断“更多内容”是否有害
长上下文研究说明容量与有效利用不同,但不能把特定研究结果泛化成所有新模型必然在某位置失败。应在自己的任务中测量。[S085][S087][S088]
原创实验固定必要证据,只增加无关日志;再固定总长度,增加需要同时满足的约束。两组分别测干扰和组合复杂度,比只测能否找到一句话更贴近工程。
完成本篇后,应能为每段上下文回答“为什么现在需要它、何时可以移除、以后如何取回”。
继续深入:第7章 · 上下文工程 或阅读拓展阅读目录7.1的逐项讲义。所有链接均为本地内容。
1000 Token窗口不是1000 Token都能拿来放文档
输入与条件。教学预算:总窗口1000,预留输出200和安全余量50;指令150、工具100、任务状态150。计数已由同一教学计数器给定。
| 步骤与对象 | 内部动作 | 中间结果 / 新状态 |
|---|---|---|
| 1可用输入 | 1000−200−50 | 750。 |
| 2固定部分 | 150+100+150 | 400,还剩350。 |
| 3候选证据 | A=180、B=120、C=200 | 三者共500,不能全放。 |
| 4选择 | A/B直接支持当前决策,C仅背景 | 选A+B=300,输入总计700,保留50弹性。 |
| 5依赖核对 | B若是工具结果 | 还要包含其必要调用身份与解释;不能切断协议依赖。 |
| 6溢出处理 | 若固定必要内容本身超过750 | 需要减少暴露范围、换阶段或压缩,不能暗中丢用户约束。 |
把过程连起来。预算是在同一计数口径下做资源分配,而不是按“字符数差不多”随手截断。
边界与反例。真实推理Token与输入/输出占窗规则依模型和接口;这里明确给定预算,不代替厂商计费规则。
依据与适用范围:[CONTEXT]。示例输入和场景由本书明确设定。