怎样学习一套复杂的AI系统
这本书面向希望系统理解 LLM 及其工程应用的开发者。从普通编程知识开始,逐步掌握模型的数值计算、Agent 的执行协议、上下文与记忆机制,再进入生产系统的设计、评测和故障排查。
本页目录
按依赖关系排列的学习路径
学习路径按照「对象 → 表示 → 计算 → 状态变化 → 可观察结果 → 工程验证」组织。第一次接触张量时先看两行三列的数字表,理解它代表什么,再用同一种计数方法读取实际模型的形状。第一次接触 Agent 时先看一个最小工具调用,再研究流式事件、权限、故障恢复以及复杂的多 Agent 协作。
为什么不从框架 API 开始
先学会读形状和数值,再看任何一份实现代码,才能判断它在算什么、在哪一步会出错。反过来先背 API,换一个版本或一个框架就失效。
六编基础与四编系统各解决什么
基础篇四十节建立对象与计算;系统篇二十八章把同一机制追问到实现细节与工程取舍。下表给出每一编的入口条件和完成标志。
| 学习单元 | 先理解什么 | 最终解决什么问题 |
|---|---|---|
| 第一编 F01—F06 | 文字、编号、向量、数组、设备 | 能追踪一句话怎样变为神经网络输入 |
| 第二编 F07—F16 | 加权、矩阵、概率、注意力 | 能追踪一层网络与逐 Token 生成的数值变化 |
| 第三编 F17—F21 | 梯度、损失、参数、显存与计算 | 能区分训练、推理和效率瓶颈 |
| 第四编 F22—F27 | 请求、工具调用、事件、状态与上下文 | 能解释编码 Agent 逐轮完成任务的过程 |
| 第五编 F28—F34 | 搜索、证据、记忆、路由、幂等、测试 | 能设计可靠的信息供给与执行闭环 |
| 第六编 F35—F40 | 指标、统计、安全、可观测性 | 能判断改动是否改善了生产系统 |
| 第七—十编 01—28 | 逐层推导、源码与系统机制 | 能评估边界条件、实现差异和高级工程取舍 |
一节正文的读法
先复述输入是什么、输出是什么,以及中间执行了什么操作;再自己重算教学实例中的数字。随后阅读与该机制相关的错误案例或限制条件。完成本节的自检题以后,再进入下一节。
不会解释某个符号时,使用其内联术语说明或术语索引,不必跳到不相关的章节。想把数字改一下看结果,用浏览器实验;想看分步图形,用动态图解。
哪些是原理,哪些是构造实例
论文与公开源代码用于解释可验证的原理和公开实现。模型参数、用户任务、Agent 执行轨迹若是专门用于教学的构造示例,将在正文标注。代码运行结果只证明对应实验的性质,不能直接推导真实商业模型的成功率。
完整的来源清单与适用范围见参考资料;每一条数值与运行记录的核验边界见代码、数值与验证边界。
读懂一个机制的完成标准
以「KV Cache 为什么可以复用」为例:基础答案需要知道 K/V 是什么、缓存保存什么;进阶答案需要能够写出每层缓存的形状、解释因果掩码为何使旧表示不受未来 Token 影响、处理位置与批次变化、指出前缀修改后的失效条件,并解释如何验证缓存与全量前向一致。
同一标准适用于工具调用、上下文压缩和长期记忆:不仅说出技术名称,还能描述中间状态、出错窗口及修复证据。先读 F16,再读 系统篇 07,就能对照这两级答案。
三条可选的进入路径
从零按顺序读
没有线性代数与机器学习背景时的默认路径。从 F01 开始,每节做完自检再往下。
带着一个问题进入
已有基础时,从十二个阅读主题里挑一个具体问题,沿基础与深入两个入口读完它。
从一份外部材料反查
手上有论文或官方文档时,用专题索引找到对应的中文讲义与系统章节。