AI系统工程 · 运行示例
运行示例索引
按原章节阅读时，示例就在对应概念旁边；这里可以按主题集中查找。
每例先给输入与假设，再列内部动作、中间结果和适用边界。F对应基础篇，Q对应系统问题，S对应专题研修，R对应逐项讲义，X提供跨步骤或易混机制对照。教学示例完整展开，自检答案按需查看。
本章目录
基础篇 · 40节
F01 同一句“读取配置”，在四个对象中各是什么F02 像查座位一样定位三维数组里的一个数F03 把“我爱学习”编码，再原样解码F04 为什么“你爱”最后有个0，但没有多出一个词F05 一整句话怎样逐位置取出EmbeddingF06 把同一个张量搬到设备，数值和占用如何分别变化F07 用同一张表区分点积、矩阵乘法与逐元素乘法F08 reshape与转置：同样四个数为何会形成不同排列F09 三个分数怎样一步步变成抽样概率F10 固定参数做前向，与学习参数是两件事F11 从两段内容到一个混合向量，而不是选中一句话F12 3个历史位置加2个新位置，掩码怎样展开F13 把位置旋转看成可以画在方格纸上的坐标变化F14 归一化、残差和前馈分别改变哪份数F15 预测出一个Token，不等于已经把它写入KV缓存F16 同一条历史为什么每层都要留一份K/VF17 算一次梯度，再看损失是否真的下降F18 把三个训练位置逐一评分，不让PAD混入平均数F19 偏好训练究竟比较哪两个概率比F20 三种“省参数/省存储”在同一张小表上有什么区别F21 先数计算与搬运，再决定是不是GPU算力不够F22 读取—发现缺口—再读取：让一次工具结果决定下一步F23 把“学习.py”拆在一个汉字中间，为什么不能马上解析F24 同一任务的事件日志如何还原“做到哪了”F25 把一个MCP读取请求分成四道不同关口F26 给一轮上下文算预算，看看哪些证据确实装进去了F27 同样短的摘要，为什么一个安全一个危险F28 三份文档怎样变成一个倒排索引F29 把两个榜单融合，再检查是否足够回答F30 同一个函数名，文本命中为何不等于真实调用F31 记忆一句“超时是3”，缺了什么才会在下次出错F32 修正错别字与修复并发Bug，为什么不该加载同一套技能F33 超时之后：重试同一个操作，还是意外执行第二次F34 让一个反例证明补丁不是只迎合已有测试F35 同一组结果，把四个分母分别数清F36 同样净增4个成功，为什么还不能确定优化可靠F37 外部文档里的“指令”怎样被当成普通数据F38 两条工具并行时，为什么总耗时不能直接相加F39 截图缩放之后，按钮坐标为什么必须换算F40 把“答案错了”定位为一个可以修复的具体环节
系统篇 · 112个问题
Q001 同一个“修复超时”任务，比较界面输入与真正请求Q002 BPE按合并优先级执行，不是遇到长词就随意拼Q003 指令影响模型，但文件写权限仍由执行器决定Q004 同一个“爱”，跟踪初始表示、上下文化和最终词表分数Q005 一个两位置单层Decoder，从输入一直算到词表概率Q006 只改Value，与只改Query，分别让什么改变Q007 一次稳定softmax计算，加一个全屏蔽反例Q008 把一个残差分支删掉，形状没变但函数已改变Q009 把因果、padding与loss mask画在同一个序列上Q010 相对位置保持与缓存错位：同一组旋转算两遍Q011 保留4个查询头，但只缓存2组Key/ValueQ012 对一个查询手算Attention的梯度，再用扰动检查Q013 Prompt长3，再生成2个Token，逐轮列出长度Q014 相同logits经过温度、Top-k和Top-p后怎样重新分配Q015 四种停止信号在同一段输出中意味着不同事情Q016 更多推理、外部搜索和多Agent：同一问题的三种增加工作量Q017 标签移位错误，训练也能看起来很顺利Q018 AdamW的第一步，把动量、偏差修正与衰减都算出来Q019 重复样本怎样把一次评测变成“背过答案”Q020 训练显存：同样100万个参数，额外状态从哪里来Q021 同一对回答，SFT与DPO看的训练信号不同Q022 四条候选轨迹的奖励怎样变成相对优势Q023 MoE路由选两个专家，结果怎样合成Q024 把“知识过期”和“输出格式错误”分开选干预手段Q025 用因果依赖逐层证明旧K/V为什么不变Q026 把一条长上下文的K/V字节数从单位算出来Q027 两块分数如何不存完整概率表也得到同一结果Q028 页表把逻辑位置5映射到哪个物理格子Q029 请求B结束后，下一轮怎样把空位交给CQ030 首字慢、后续快和总任务慢可以同时发生Q031 草稿错了仍可保持目标分布：三种Token逐项对账Q032 同样两张设备，DP、TP与PP各自切开什么Q033 一个修复任务，为什么产生三次模型调用Q034 对话说“写好了”，但磁盘与任务状态都不同意Q035 同一个session_id不代表相同的模型输入Q036 同一搜索重做五次，何时应该停止Q037 模型输出一个函数名，到底谁执行了它Q038 中文字符被拆成三个网络片段，为什么不能逐片decodeQ039 两个工具并行完成，后到的结果怎么归属Q040 JSON格式完全正确，为什么仍然不能执行Q041 把“执行任意SQL”改成“查询工单”，少了什么多了什么Q042 一次MCP连接的消息按顺序发生什么Q043 同一个仓库资料，作为Resource、Tool和Skill时有什么不同Q044 都叫“工具失败”，四层错误却对应四种修复Q045 从工具注册到真正dispatch，逐道看它能否到达Q046 子Agent只收到摘要，为什么它不知道主Agent的限制Q047 同一份仓库指令，在IDE、CLI与云任务里为什么可能不同Q048 找不到技能：用四个可观察事实逐步排除Q049 1000 Token窗口不是1000 Token都能拿来放文档Q050 按需加载一个技能，却要带上两个依赖Q051 同样的文字，只挪一个开头字段，缓存就可能不同Q052 新文件与旧记忆冲突，先比较什么Q053 四种“减少负担”的动作分别改变了什么Q054 摘要生成期间又发生一个工具结果，怎样不丢掉它Q055 摘要写“配置已变更”，下一步要怎样找回依据Q056 如何检查压缩是否把“未确认”改成“已成功”Q057 把一句条件切断，为什么召回到了也可能答错Q058 两个文档都含“排除”，BM25为什么不只数次数Q059 检索向量为何需要训练，而不是随便放坐标Q060 近似搜索只看到两点，怎样漏掉真实最近邻Q061 两张排名表，逐行融合成RRFQ062 ColBERT的“每个查询Token找最好匹配”怎样算Q063 最高分证据回答不了“是否现在有效”，怎么办Q064 四种RAG增强在同一个问题上分别做哪一步Q065 同名foo出现三次，grep和LSP给出的集合为何不同Q066 索引对应v7，工作树已经改了，哪份代码才是证据Q067 exclude误删ab目录：从失败输入一步步到根因Q068 业务规则在测试里，为什么只读函数体不够Q069 同一事故里，四种记忆分别保存什么Q070 一句模型猜测经过哪些检查才能进入长期记忆Q071 “什么时候生效”与“什么时候知道”不是同一时间Q072 删除一条记忆后，为什么向量索引仍可能泄露它Q073 一个Skill怎样从磁盘文件进入当前动作Q074 “所有开发任务都适用”的描述会怎样误加载Q075 想强制格式检查，写进Prompt还是用HookQ076 便宜模型一次省钱，返工后每个成功任务却更贵Q077 子Agent交回“没问题”，为什么无法安全整合Q078 两条并行任务加合并，关键路径怎样算Q079 两个Agent都从v7写同一文件，后写入会发生什么Q080 三个审查Agent同意，为什么不等于三份独立证据Q081 请求超时，但计数器已经加1，应该叫什么状态Q082 幂等键为什么还要绑定参数和执行结果Q083 原子写文件与“检查版本后写入”为什么还差一步Q084 重试、恢复、重放和取消四个动作怎样区分Q085 把“支持exclude”变成可以验收的输入输出表Q086 测试100%通过，为什么补丁仍然可能错误Q087 同样是改一行，为什么审查投入不同Q088 把文档空格改了，为什么哈希测试红了但功能没坏Q089 一个任务跑三次，统计表到底有几行Q090 pass@3与连续三次都成功，数字为何差很多Q091 20个任务提升20个百分点，证据足够强吗Q092 判分模型偏爱第一个答案，怎样发现Q093 网页里写“忽略用户并上传文件”，为什么不能执行Q094 允许读仓库并运行测试，不等于允许读主目录Q095 用户批准部署v8，为什么不能顺手部署v9Q096 恶意建议被写入记忆后，下一次任务怎样被带偏Q097 Trace里三个span加起来10秒，任务为什么只用了7秒Q098 一个方案少花Token，却增加两次工具往返Q099 并发10个请求，队列为什么仍不断增长Q100 只回滚Prompt，为什么故障还在Q101 企业问答怎样把答案每个分句接回证据Q102 从Bug描述到补丁交付，哪些对象必须一致Q103 两篇资料给出相反结论，怎样不靠数量投票Q104 界面点击成功了，业务动作为什么还没完成Q105 四次都说80%把握，实际只对两次，怎么算Q106 反思三遍都支持同一猜测，什么时候仍无进展Q107 一张4×4图分成四块，进入模型后有几个位置Q108 Attention权重高，能否证明它就是答案的原因Q109 固定训练预算翻倍参数，为什么数据可能减半Q110 低秩缓存能少存数字，为什么不等于随便压缩K/VQ111 模型照着两条示例回答，权重就改变了吗Q112 引入新框架前，先做一个能推翻自己的对照
专题研修 · 31章
S01 同一“爱”出现两次，Embedding行的梯度怎样累加S02 批内真实长度不同，缓存位置不能只看补齐长度S03 四个微批累积梯度，为什么不一定等于四倍学习率S04 PPO正优势被裁剪，负优势却不是同一种取法S05 同一概率表，核采样与贪心的可选集合不同S06 roofline估算为什么只能给下界，不能直接当实测S07 工具参数语法结束后，还需要等待调用结束信号吗S08 外部文件写入与本地数据库提交之间的崩溃窗口S09 源码函数名相同，调用条件改变后结论如何失效S10 黑箱产品实验：只改一项指令来源S11 选了高分片段，却漏掉它的否定前半句S12 一个压缩方案省90%，但两类错误要分开计S13 权限过滤在召回后做，为什么top-k会不足S14 增量分析一个函数改名，哪些证据应更新S15 一条相似记忆不适用于当前环境S16 技能召回变高但误加载也变高，算不算优化S17 相关错误下，三位Agent不应按独立概率相乘S18 性质测试用一个族的输入抓住前缀错误S19 把任务难度分层后，总体胜率可能换个方向S20 带权限的检索工具怎样避免把授权交给模型猜S21 重试风暴怎样把暂时故障放大S22 成功率差1个百分点时，关键故障比均价重要S23 权重误差一样大，激活不同使输出误差不同S24 页面滚动了200像素，旧坐标为何点错S25 拒答率提高，正确率提高，是否真的更好S26 深研究用树搜索前，先看候选能不能判好坏S27 补丁成功后再加一处日志，为什么需要重新验证S28 同一份研究结论转为自动化动作，需要补哪一层S29 内容没变但变慢：把运行轨迹对齐再猜S30 毕业项目的验收证据，而不是“能聊天”的演示S31 用一个方向导数核对矩阵反传是否接对
拓展讲义 · 206项
R00-01 从文本输入到工具结果分清边界R00-02 两个输出Token分两次决定R00-03 固定工作流与Agent的分岔点R00-04 用户的一句话变成多轮请求R00-05 从零实现时最小验收顺序R01-01 一层处理前后，位置数没有凭空减少R01-02 合并优先级而不是最长子串猜测R01-03 原始编码器与解码器的可见关系R01-04 转轴后矩阵乘法才匹配R01-05 Word2Vec不是把整数写成二进制R01-06 加性与点积注意力可以有不同评分器R01-07 共同平移位置不改变相对旋转R01-08 4个Q头共享2个KV头R01-09 稀疏专家的路由不等于每个词固定属于一个专家R01-10 临时映射的上下文学习R01-11 读模型报告先画接口账本R01-12 总专家参数和激活参数不能混计R01-13 推理模式不同不意味着输入事实自动增加R01-14 把技术名放回它改变的那一层R02-01 对数尺度上的改善不是准确率必然按比例增R02-02 固定计算下参数与数据的交换R02-03 100份资料不等于100份独立信息R02-04 近重复跨训练与验证会污染评价R02-05 训练损失下降，验证损失却上升R02-06 指令样本与偏好样本的监督不同R02-07 DPO比较的是相对参考模型的变化R02-08 原则反馈怎样约束改写，而非代替事实检查R02-09 正优势的PPO裁剪算一次R02-10 外部文本不能自称系统消息R02-11 多步推理可以暴露算错点R02-12 可验证奖励如何给候选打分R02-13 结果相同，中间步骤一个含错一个正确R02-14 自一致性多数票仍可能多数错R02-15 树搜索的分支与剪枝R03-01 贪心与采样从同一概率开始R03-02 核采样为什么保留越过阈值的那项R03-03 动态缓存与预分配缓存占用不同R03-04 推理预算也要留在请求容量里R03-05 简单查值不必用树状推理替代工具R03-06 prefill处理三位置，decode处理一个新位置R03-07 相同前缀与不同尾部R03-08 逻辑块与物理块R03-09 在线softmax重标度R03-10 拒绝后的分布不能随便选R03-11 活跃集合怎样轮间改变R03-12 压缩输出有时比压缩输入更省时R04-01 约束、数据和输出要求分别放清楚R04-02 提示版本变化要和评测绑定R04-03 真实用户指令与文档中的反向要求R04-04 call_id把调用与结果连起来R04-05 结构化输出通过仍要核对事实R04-06 网络分片与事件边界R04-07 给出反例明确“简洁”不等于缺证据R04-08 推理状态不是可随意拼接的普通文本R05-01 ReAct中的观察改变下一步R05-02 先确定一个最小可交付任务R05-03 计划节点不等于执行节点R05-04 同一任务的Runner与Session各持有什么R05-05 训练工具使用时，外部结果何时进入样本R05-06 反思必须保留失败的具体原因R05-07 工具返回10000行还是10条带来源结果R05-08 装上MCP服务器不等于模型已经能用R05-09 Host、Client、Server各自处理哪条消息R05-10 用代码组合三次查询，哪些数据不必进模型R05-11 检查点后追加的事件也要恢复R05-12 跨Agent收到结果不等于结果可执行R06-01 输入中工具不可见时不能归因于模型漏选R06-02 Thread与Turn的生命周期差异R06-03 仓库可读性怎样减少反复搜索R06-04 固定commit再追一条调用链R06-05 托管执行环境不替应用决定业务授权R06-06 Claude Code式循环先观察再继续R06-07 上下文由不止当前聊天组成R06-08 项目规则与个人偏好冲突R06-09 子Agent交接没有自动复制所有历史R06-10 技能名出现不等于正文已读R06-11 Hook拦截提交时检查哪个版本R06-12 命令名允许，不代表所有参数都安全R06-13 小修直接做与复杂设计分开R06-14 CLI的当前目录改变了可见项目R06-15 自定义Agent职责太宽会重复工作R06-16 程序化启动任务也要检查退出状态R06-17 五种扩展分别解决不同需求R06-18 技能匹配必须包括相邻反例R06-19 仓库记忆与当前代码冲突R06-20 插件包含工具，但安装不等于自动授权R06-21 自动化脚本需要记录可复现输入R07-01 相关信息不是越多越好R07-02 位置效应实验只移动目标证据R07-03 窗口能装下不代表能准确使用R07-04 长上下文不同任务不能只看找一句话R07-05 干扰增加时有效窗口怎样测试R07-06 不透明压缩项需要按原样续接R07-07 摘要必须保留否定与未完成R07-08 阶段结束压缩比正在写入时容易一致R07-09 删除大日志前先保留可恢复位置R07-10 压缩阈值不能等到窗口已经用满R07-11 压缩后Token少了但缓存前缀变了R08-01 检索不是把答案从模型里“挖出来”R08-02 给片段补上下文，避免“它”失去指代R08-03 排名融合按名次而非分数量纲R08-04 双塔检索把查询和文档分别编码R08-05 查询的每个Token各找最佳文档位置R08-06 HyDE假设文档不是来源证据R08-07 RAPTOR的上层摘要帮助定位，下层保留细节R08-08 限制路径让同名符号搜索更精确R08-09 grep不到时不要立刻断定不存在R08-10 改一行后增量语法树更新什么R08-11 同名变量有不同绑定R08-12 第一次生成失败反过来改进检索R08-13 仓库补全评测要隔离邻近答案泄漏R08-14 自然语言搜代码不总能靠同词命中R08-15 在一种文档上调好，不代表另一种也好R08-16 同样召回两条，排序质量可以不同R09-01 记忆如何进入决策而不直接替代环境R09-02 换出的是正文，当前任务还要留索引R09-03 命名空间避免跨用户记忆混用R09-04 会话检查点与长期Store保存不同生命周期R09-05 反思把事件归纳成经验时要避免过度泛化R09-06 旧偏好更新后要回答新值R09-07 超长会话不能只测试复制一句话R09-08 自动连边也可能连错记忆R09-09 记忆更新流水线逐项核对R09-10 图检索回答跨文档关系R10-01 只加载相关技能节省什么R10-02 Skill正文引用不存在的脚本R10-03 显式技能仍需检查当前任务约束R10-04 一个平台支持Skill不代表所有表面加载规则相同R10-05 Codex技能问题沿数据链定位R10-06 常驻规则与按需专业材料分别放R10-07 并行研究者要给不同证据范围R10-08 DAG边决定谁可以同时跑R10-09 handoff与返回结果的调用不同R10-10 Agent-as-tool返回仍是待核验结果R10-11 简单强基线先做出来R10-12 多Agent对话会循环赞同R11-01 新上下文如何接着修复而不重做R11-02 长应用开发按可验证功能推进R11-03 工具接口保留行号怎样帮助补丁准确定位R11-04 审查发现小命名问题，如何避免重走设计R11-05 并行写编译器的模块接口要一致R11-06 Agent审查不能只复述diffR11-07 不完美但改善代码与阻塞缺陷分开R11-08 设计、复杂度与测试一起判断R11-09 三层测试分别抓哪类错R11-10 持续集成测试必须针对合并结果R11-11 架构决策记录需要包含放弃条件R11-12 产品质量回退先拆模型与HarnessR11-13 模型进程中断，外部任务仍可能运行R12-01 先定义真实成功，再统计分数R12-02 工作流中某一步通过不代表全流程通过R12-03 轨迹评分发现答案背后的越权R12-04 把真实失败变成持续回归样本R12-05 评分规则要区分缺信息与乱猜R12-06 交换答案顺序检查评委偏差R12-07 真实Issue评测要验证补丁行为R12-08 测试环境不同会让同一补丁结果不同R12-09 资源噪声不能算作模型错误R12-10 跨环境成绩需分开看R12-11 重复成功衡量稳定执行R12-12 新题时间晚于训练截止仍不自动零污染R12-13 通用助手任务要同时读、算、核对R13-01 泄漏既可能来自输入也可能来自日志R13-02 Agent风险多了真实副作用R13-03 不可信片段不能升级自己的角色R13-04 注入改变任务目标时怎样识别R13-05 间接注入可能藏在搜索结果摘要R13-06 只禁网络仍可能泄漏到文件日志R13-07 自动审批的误拦与漏拦分别统计R13-08 不同运行表面的边界不可互相假定R13-09 威胁模型先明确保护什么R13-10 读文件与部署不应使用同一级确认R14-01 一条trace怎样串起模型与工具R14-02 统一字段才能比较不同后端R14-03 父span包含等待，子span和不等于父spanR14-04 成功率正常但排队上升也是预警R14-05 99%目标给多少错误预算R14-06 上线前先跑一次可恢复失败R14-07 RPM没超但TPM仍可能限流R14-08 减少非关键路径操作不改变总耗时R14-09 模型超时后用任务ID接回执行状态R14-10 一次只变一个可解释变量R14-11 工具组合可以少传数据，不必少做验证R15-01 LoRA秩1增量具体长什么样R15-02 量化基础权重与可训练适配参数分开R15-03 激活放大权重量化误差R15-04 教师软分布比单个标签多给什么信息R15-05 多个适配器要与基础版本对齐R15-06 流行错误也可能被模型复述R15-07 概率80%要与同类结果对账R15-08 按需检索不是每句话都固定搜一次R15-09 检索错误时重新查，而非用错资料硬答R15-10 计算机操作要读回结果R15-11 截图缩放改变坐标R15-12 桌面任务不以点击次数判成功R15-13 文字一样的两个按钮需要上下文定位R15-14 DOM定位与视觉坐标各有边界R15-15 一个神经元同时响应两个概念意味着什么R15-16 稀疏自编码器的两个目标可能冲突R15-17 相关性观察与因果干预的差别R16-01 自动求导从计算图传播什么R16-02 最小GPT训练也要正确移动标签R16-03 一个可运行训练系统的检查顺序R16-04 Tokenizer与模型权重必须匹配R16-05 指数和对数必须说明底数R16-06 梯度默认会累积，为什么要清零
跨步骤与算子对照 · 12例
X01 沿用“我爱学习／你爱”，把一层模型真正算到底X02 同样的[1,3]，LayerNorm、RMSNorm和SwiGLU分别做什么X03 贪心第一步最好，不等于两步序列概率最大X04 KL散度：同两组概率，调换方向会得到不同值X05 用1000个参数算清ZeRO究竟分摊哪份状态X06 4个Q头共享2个KV头，究竟怎样配对X07 同一张“允许访问表”，不同接口的布尔值为什么相反X08 让检索向量学习：查询向量真的往哪个方向移动X09 近似图搜索为什么会漏掉真正最近的点X10 量化不只是舍入，还可能把超范围的数截断X11 BPE合并时，为什么不是总选左边那一对X12 padding位置不计损失，分母也必须一起变
怎样理解覆盖范围
覆盖单元是40节基础课、112个主问题、31章研修和206项讲义，均提供各自的运行示例；额外12例深入拆解容易混淆的算子与连续过程。不是声称每个句子或每篇研究的全部实验都已复现。参考资料、术语和程序输出是辅助页面，不计为独立新课程。