专题阅读索引与知识依赖
本书收录 206 项专题阅读讲义，涵盖论文、官方文档和工程资料。以下对照可帮助从知识主题进入相关的基础章节、进阶章节与本地中文讲义。讲义为中文阐述，不是原论文的逐字完整翻译。
本页目录
进阶章节与先修知识
206项中文专题讲义
按 17 个模块分组。模块编号 RNN 与 拓展阅读 的章节一一对应；同一模块内所有条目共用一组深入章节，列在该模块末尾。
R00 · 全局认知5 项
| 编号 | 条目与本地讲义 |
|---|---|
| 0.1 | LLM课程：概念与工具全景 |
| 0.2 | 图解GPT-2：自回归模型 |
| 0.3 | 构建有效的智能体 |
| 0.4 | 展开Codex智能体循环 |
| 0.5 | 从零构建语言模型的知识版图 |
本模块全部条目的深入章节：
R01 · 模型内部14 项
| 编号 | 条目与本地讲义 |
|---|---|
| 1.1 | 图解Transformer |
| 1.2 | 分词流水线 |
| 1.3 | 注意力与Transformer原始架构 |
| 1.4 | 带代码注解的Transformer |
| 1.5 | 图解词向量 |
| 1.6 | 注意力机制的不同形式 |
| 1.7 | 旋转位置编码RoPE |
| 1.8 | 分组查询注意力 |
| 1.9 | 稀疏专家与路由 |
| 1.10 | 少样本与上下文学习 |
| 1.11 | Llama3：完整模型系统案例 |
| 1.12 | DeepSeek-V3：稀疏模型工程 |
| 1.13 | Qwen3：推理与非推理模式 |
| 1.14 | LLM技术研究全景 |
本模块全部条目的深入章节：
R02 · 能力形成15 项
| 编号 | 条目与本地讲义 |
|---|---|
| 2.1 | 语言模型缩放规律 |
| 2.2 | 计算最优训练与Chinchilla |
| 2.3 | 训练语料的来源与构成 |
| 2.4 | 训练数据去重 |
| 2.5 | 数据、缩放与训练评估 |
| 2.6 | SFT与RLHF |
| 2.7 | 直接偏好优化DPO |
| 2.8 | 基于原则的AI反馈 |
| 2.9 | 近端策略优化PPO |
| 2.10 | 模型行为规范与指令层级 |
| 2.11 | 思维链提示与多步骤推理 |
| 2.12 | 通过强化学习形成推理能力 |
| 2.13 | 过程监督与结果监督 |
| 2.14 | 多路径采样与自一致性 |
| 2.15 | 思维树与外部搜索 |
本模块全部条目的深入章节：
R03 · 推理与服务12 项
| 编号 | 条目与本地讲义 |
|---|---|
| 3.1 | 文本生成与解码策略 |
| 3.2 | 退化文本与核采样 |
| 3.3 | KV缓存策略 |
| 3.4 | 推理模型的API使用 |
| 3.5 | 推理模型的使用边界 |
| 3.6 | Prefill与Decode |
| 3.7 | 提示前缀缓存 |
| 3.8 | 分页管理KV缓存 |
| 3.9 | 注意力的IO优化 |
| 3.10 | 推测解码 |
| 3.11 | 推理服务架构 |
| 3.12 | 端到端延迟优化 |
本模块全部条目的深入章节：
R04 · 输入输出接口8 项
| 编号 | 条目与本地讲义 |
|---|---|
| 4.1 | 提示工程基础 |
| 4.2 | 提示组织与版本管理 |
| 4.3 | 输入可信度与指令冲突 |
| 4.4 | 函数调用协议 |
| 4.5 | 结构化输出与约束 |
| 4.6 | 流式响应与事件组装 |
| 4.7 | Claude提示设计 |
| 4.8 | 扩展推理与状态连续性 |
本模块全部条目的深入章节：
R05 · Agent基础12 项
| 编号 | 条目与本地讲义 |
|---|---|
| 5.1 | 推理、行动与观察 |
| 5.2 | 构建Agent的实践方法 |
| 5.3 | Agent组件与工作流 |
| 5.4 | 运行器、会话与追踪 |
| 5.5 | 在训练中学习工具使用 |
| 5.6 | 语言反馈与任务反思 |
| 5.7 | 面向Agent设计工具 |
| 5.8 | MCP的作用与边界 |
| 5.9 | MCP主机、客户端与服务器 |
| 5.10 | 通过代码组合工具 |
| 5.11 | 检查点、恢复与状态持久化 |
| 5.12 | 跨Agent通信协议 |
本模块全部条目的深入章节：
R06 · 真实编码Agent21 项
| 编号 | 条目与本地讲义 |
|---|---|
| 6.1 | Codex输入组装与执行循环 |
| 6.2 | Codex App Server与会话原语 |
| 6.3 | 面向Agent的工程环境 |
| 6.4 | 如何阅读Codex的公开实现 |
| 6.5 | 托管Harness的职责边界 |
| 6.6 | Claude Code工作机制 |
| 6.7 | Claude Code的上下文组成 |
| 6.8 | 项目指令与自动记忆 |
| 6.9 | 子Agent的隔离与权限 |
| 6.10 | Claude Code技能扩展 |
| 6.11 | 执行节点与Hooks |
| 6.12 | Claude Code权限控制 |
| 6.13 | 有效的编码任务组织 |
| 6.14 | Copilot CLI的执行环境 |
| 6.15 | Copilot自定义Agent |
| 6.16 | Copilot CLI的任务流程 |
| 6.17 | 区分五种定制机制 |
| 6.18 | Copilot技能加载 |
| 6.19 | Copilot记忆与证据 |
| 6.20 | 插件的组合与分发 |
| 6.21 | 程序化调用与工具访问 |
本模块全部条目的深入章节：
R07 · 上下文工程11 项
| 编号 | 条目与本地讲义 |
|---|---|
| 7.1 | 有效的上下文工程 |
| 7.2 | 长上下文中的位置效应 |
| 7.3 | 上下文容量与状态 |
| 7.4 | 长上下文多任务评测 |
| 7.5 | 标称窗口与有效能力 |
| 7.6 | 不透明压缩状态与连续执行 |
| 7.7 | 摘要型压缩概览 |
| 7.8 | 主动压缩与阶段边界 |
| 7.9 | 工具结果清理 |
| 7.10 | 按阈值触发压缩 |
| 7.11 | 缓存与压缩的相互作用 |
本模块全部条目的深入章节：
R08 · 检索与代码智能16 项
| 编号 | 条目与本地讲义 |
|---|---|
| 8.1 | 检索增强生成的基础 |
| 8.2 | 上下文增强的混合检索 |
| 8.3 | 倒数排名融合RRF |
| 8.4 | 稠密段落检索DPR |
| 8.5 | 晚交互与多向量检索 |
| 8.6 | 假设文档辅助检索 |
| 8.7 | 树状摘要索引 |
| 8.8 | 代码搜索语法 |
| 8.9 | 精确搜索与范围控制 |
| 8.10 | 语法树与增量解析 |
| 8.11 | 定义、引用与语言服务 |
| 8.12 | 仓库级迭代检索与生成 |
| 8.13 | 仓库级补全评测 |
| 8.14 | 代码语义搜索数据集 |
| 8.15 | 异构检索评测 |
| 8.16 | 排序检索指标 |
本模块全部条目的深入章节：
R09 · 长期记忆10 项
| 编号 | 条目与本地讲义 |
|---|---|
| 9.1 | 语言Agent的认知架构 |
| 9.2 | 分层记忆与上下文换入换出 |
| 9.3 | 长期记忆的类型与命名空间 |
| 9.4 | 会话状态与长期Store |
| 9.5 | 记忆流、反思与计划 |
| 9.6 | 长期互动记忆评测 |
| 9.7 | 超长会话中的记忆能力 |
| 9.8 | 动态关联的记忆组织 |
| 9.9 | 记忆提取与更新流水线 |
| 9.10 | 图结构与全局问题检索 |
本模块全部条目的深入章节：
R10 · Skills与多Agent12 项
| 编号 | 条目与本地讲义 |
|---|---|
| 10.1 | 渐进式技能加载 |
| 10.2 | 技能规范与资源组织 |
| 10.3 | 技能选择与执行上下文 |
| 10.4 | Copilot技能的适用范围 |
| 10.5 | Codex技能加载与使用 |
| 10.6 | 选择正确的扩展层 |
| 10.7 | 主Agent与并行研究者 |
| 10.8 | 工作流、并行与动态编排 |
| 10.9 | 控制权交接 |
| 10.10 | Agent配置与作为工具调用 |
| 10.11 | 简单流程作为强基线 |
| 10.12 | 多Agent对话框架 |
本模块全部条目的深入章节：
R11 · AI软件工程13 项
| 编号 | 条目与本地讲义 |
|---|---|
| 11.1 | 跨上下文持续开发 |
| 11.2 | 长应用开发的反馈结构 |
| 11.3 | 面向Agent的计算机接口 |
| 11.4 | 代码审查的目的与流程 |
| 11.5 | 并行Agent构建编译器案例 |
| 11.6 | 使用Agent进行代码审查 |
| 11.7 | 审查标准与非完美交付 |
| 11.8 | 设计、功能、复杂度与测试 |
| 11.9 | 测试金字塔 |
| 11.10 | 持续集成与反馈速度 |
| 11.11 | 记录架构决策及其条件 |
| 11.12 | 编码Agent质量回退复盘 |
| 11.13 | 推理与执行环境解耦 |
本模块全部条目的深入章节：
R12 · 评测方法13 项
| 编号 | 条目与本地讲义 |
|---|---|
| 12.1 | Agent评测的完整方法 |
| 12.2 | 工作流评测 |
| 12.3 | 执行轨迹评分 |
| 12.4 | 持续评测学习框架 |
| 12.5 | 数据集与评分标准 |
| 12.6 | 模型评委与评分偏差 |
| 12.7 | 真实Issue修复基准 |
| 12.8 | 评测环境与任务变体 |
| 12.9 | 基础设施噪声与比较偏差 |
| 12.10 | 跨环境Agent评测 |
| 12.11 | 规则、工具和重复成功率 |
| 12.12 | 时间更新与污染控制 |
| 12.13 | 通用助手的综合任务 |
本模块全部条目的深入章节：
R13 · 安全与权限10 项
| 编号 | 条目与本地讲义 |
|---|---|
| 13.1 | LLM应用风险类别 |
| 13.2 | Agent应用风险类别 |
| 13.3 | 特权指令与不可信内容 |
| 13.4 | 提示注入攻击模型 |
| 13.5 | 通过外部内容间接注入 |
| 13.6 | 文件系统与网络隔离 |
| 13.7 | 自动批准的误拦与漏拦 |
| 13.8 | 不同产品中的隔离边界 |
| 13.9 | 安全治理与威胁建模 |
| 13.10 | 权限规则和任务风险 |
本模块全部条目的深入章节：
R14 · 运行与性能11 项
| 编号 | 条目与本地讲义 |
|---|---|
| 14.1 | 模型、工具和交接追踪 |
| 14.2 | 生成式AI的语义约定 |
| 14.3 | 模型与Agent的Span |
| 14.4 | 监控系统的信号选择 |
| 14.5 | 服务目标与错误预算 |
| 14.6 | 部署前的工程检查 |
| 14.7 | 限流、退避与预算 |
| 14.8 | 端到端任务延迟 |
| 14.9 | 执行状态与模型运行的解耦 |
| 14.10 | 提示、评测与模型优化 |
| 14.11 | 工具组合与成本边界 |
本模块全部条目的深入章节：
R15 · 高级专题17 项
| 编号 | 条目与本地讲义 |
|---|---|
| 15.1 | 低秩参数适配 |
| 15.2 | 量化模型上的高效微调 |
| 15.3 | 激活感知权重量化 |
| 15.4 | 知识蒸馏 |
| 15.5 | 参数高效微调的工程组织 |
| 15.6 | 事实性与模仿错误观念 |
| 15.7 | 置信度与校准 |
| 15.8 | 按需检索与自我评价 |
| 15.9 | 检索证据不足时的纠正 |
| 15.10 | 计算机操作的观察行动循环 |
| 15.11 | 截图、坐标和操作反馈 |
| 15.12 | 真实桌面任务评测 |
| 15.13 | 图形界面定位 |
| 15.14 | 浏览器与桌面执行环境集成 |
| 15.15 | 单义特征与稀疏分解 |
| 15.16 | 稀疏自编码器的规模与评价 |
| 15.17 | 机制可解释性的研究方法 |
本模块全部条目的深入章节：
R16 · 数学与实现补充6 项
| 编号 | 条目与本地讲义 |
|---|---|
| 16.1 | 从自动求导到语言模型 |
| 16.2 | 最小GPT训练系统 |
| 16.3 | 从零训练的实践路线 |
| 16.4 | 模型生态的实际使用 |
| 16.5 | 数学、概率与优化基础 |
| 16.6 | 张量、自动求导与模型训练 |
本模块全部条目的深入章节：
索引的使用边界
本书系统介绍从语言模型到Agent工程所需的主要机制，配有先修知识、核心推导和相应边界。它不能代替线性代数、概率论、分布式系统等学科的完整专业教材，也不覆盖所有公开论文。对未实测或未公开的产品行为，避免作未经证明的断言。