参考资料与适用范围
以下出处支持正文中注明范围内的机制。中文讲解、推导和示例已在本地展开,链接用于追溯,不是必读的外部步骤。
如何区分三类材料
研究与官方文档说明公开事实;独立手算与构造案例用于解释机制;程序运行记录对应指定数据和断言。教学数值不代表商业模型参数,确定性测试不代表真实Agent成功率。产品与协议说明应与所列版本对应。
[TR] Attention Is All You Need
Transformer原始架构与注意力;现代Decoder变体另作说明。
论文 · 资料记录日期:2026-10-17
[CHAT] Hugging Face:Chat templates
消息序列化与模型模板;不等于闭源产品完整Prompt。
官方文档 · 资料记录日期:2026-10-17
[BPE] Hugging Face:Byte-Pair Encoding tokenization
BPE训练与编码机制;本书字符串例子为原创教学数据。
官方教程 · 资料记录日期:2026-10-17
[UNIGRAM] Subword Regularization
Unigram子词模型与分词方案;不声称所有Tokenizer使用同一算法。
论文 · 资料记录日期:2026-10-17
[ROPE] RoFormer: Enhanced Transformer with Rotary Position Embedding
旋转位置表示与相对位置关系。
论文 · 资料记录日期:2026-10-17
[GQA] GQA: Training Generalized Multi-Query Transformer Models
Query分组与KV共享;缓存算例为本书独立计算。
论文 · 资料记录日期:2026-10-17
[CACHE] Hugging Face:KV cache strategies
缓存类别与使用条件;具体形状和位置须按模型实现。
官方文档 · 资料记录日期:2026-10-17
[FLASH] FlashAttention: Fast and Memory-Efficient Exact Attention
分块、IO优化和在线归一化;不移植论文加速倍率。
论文 · 资料记录日期:2026-10-17
[PAGED] Efficient Memory Management for LLM Serving with PagedAttention
KV分页管理与共享思想;块号示例为教学构造。
论文 · 资料记录日期:2026-10-17
[SPECULATIVE] Fast Inference from Transformers via Speculative Decoding
接受与残差采样机制;不保证相同随机种子输出相同文本。
论文 · 资料记录日期:2026-10-17
[RLHF] Training language models to follow instructions with human feedback
SFT、奖励模型和偏好优化的基础流程。
论文 · 资料记录日期:2026-10-17
[DPO] Direct Preference Optimization
相对参考模型的偏好目标;公式解释不等于复现训练。
论文 · 资料记录日期:2026-10-17
[R1] DeepSeek-R1
强化学习与推理训练;不把某一报告结论泛化到全部模型。
论文 · 资料记录日期:2026-10-17
[LORA] LoRA: Low-Rank Adaptation of Large Language Models
低秩增量与参数高效适配。
论文 · 资料记录日期:2026-10-17
[V3] DeepSeek-V3 Technical Report v2
MLA、MoE与相关架构;仅解释所用机制,不声称复现报告全部实验。
论文 · 资料记录日期:2026-10-17
[CODEX] Unrolling the Codex agent loop
模型调用、工具反馈与上下文;历史架构文章与固定源码分开引用。
官方工程文章 · 资料记录日期:2026-10-17
[CODEX-SRC] Codex固定源码:工具路由与压缩
读取router.rs 80–220、252–407与compact.rs 270–451;未编译或审计整个Codex。
源码快照 · 资料记录日期:2026-10-17
[TOOLS] OpenAI:Function calling
工具调用与结果回填;教学JSON不是逐字段API参考。
官方文档 · 资料记录日期:2026-10-17
[COMPACT] OpenAI:Compaction
压缩与不透明状态的接口边界;不推测内部编码。
官方文档 · 资料记录日期:2026-10-17
[PCACHE] OpenAI:Prompt caching
重复前缀复用;规则会变化,正文不固定价格或保留期。
官方文档 · 资料记录日期:2026-10-17
[CLAUDE] How Claude Code works
公开运行、工具和上下文机制;闭源内部实现不作补造。
官方文档 · 资料记录日期:2026-10-17
[COPILOT] About custom agents for GitHub Copilot CLI
CLI自定义Agent;不推广到全部IDE和云端形态。
官方文档 · 资料记录日期:2026-10-17
[CONTEXT] Effective context engineering for AI agents
选择、卸载、摘要与长任务;状态结构和例子由本书设计。
官方工程文章 · 资料记录日期:2026-10-17
[CTXRETRIEVAL] Introducing Contextual Retrieval
上下文增强检索与组合检索;不声称本书取得论文或文章收益。
官方工程文章 · 资料记录日期:2026-10-17
[MCP] MCP Architecture overview
Host、Client、Server职责;协议时序使用单独固定版规范。
协议文档 · 资料记录日期:2026-10-17
[MCP-LIFE] MCP Lifecycle,2025-11-25
初始化、能力协商、版本与会话生命周期。
固定版本规范 · 资料记录日期:2026-10-17
[MCP-TOOLS] MCP Tools,2025-11-25
工具发现、分页、调用与错误层次。
固定版本规范 · 资料记录日期:2026-10-17
[SKILLS] Agent Skills specification
技能文件、元数据与按需资源;格式存在不代表路由效果保证。
规范 · 资料记录日期:2026-10-17
[SUBAGENTS] Claude Code:Subagents
独立上下文与工具配置;权限行为需要按版本确认。
官方文档 · 资料记录日期:2026-10-17
[CLAUDEMEM] Claude Code:Memory
项目指引与记忆机制;不等于在线参数更新。
官方文档 · 资料记录日期:2026-10-17
[COPILOTSKILL] GitHub Copilot:Agent Skills
Copilot技能概念与加载;不把模型自报当作已执行证明。
官方文档 · 资料记录日期:2026-10-17
[AGENTS] Building effective agents
工作流、Agent及常见编排模式。
官方工程文章 · 资料记录日期:2026-10-17
[LONGHARNESS] Effective harnesses for long-running agents
跨会话长任务、环境与状态连续性。
官方工程文章 · 资料记录日期:2026-10-17
[MULTI] How we built our multi-agent research system
委派、并行探索与整合;本书DAG数字为教学假设。
官方工程文章 · 资料记录日期:2026-10-17
[MEMGPT] MemGPT: Towards LLMs as Operating Systems
分层状态与外部记忆;不是通用最优记忆架构。
论文 · 资料记录日期:2026-10-17
[COALA] Cognitive Architectures for Language Agents
工作、长期、程序性等记忆分类的概念框架。
论文 · 资料记录日期:2026-10-17
[LONGMEM] LongMemEval
长期记忆检索、时间与更新等评测问题;本书未运行该基准。
论文 · 资料记录日期:2026-10-17
[DPR] Dense Passage Retrieval
双编码器与稠密检索训练。
论文 · 资料记录日期:2026-10-17
[COLBERT] ColBERT
Late interaction与细粒度匹配。
论文 · 资料记录日期:2026-10-17
[HNSW] Efficient and robust approximate nearest neighbor search using HNSW
近邻图搜索与搜索宽度取舍;不是语义正确性证明。
论文 · 资料记录日期:2026-10-17
[BM25] Stanford IR Book:Okapi BM25
BM25机制;正文明确采用正值IDF变体与教学参数。
教材 · 资料记录日期:2026-10-17
[RRF] Elasticsearch:Reciprocal rank fusion
基于排名融合;融合分数不是概率。
官方文档 · 资料记录日期:2026-10-17
[TREESITTER] Tree-sitter:Using parsers
解析树与结构定位;不代替类型和运行时分析。
官方文档 · 资料记录日期:2026-10-17
[LSP] Language Server Protocol 3.17
定义、引用、文档版本与诊断的协议边界。
固定版本规范 · 资料记录日期:2026-10-17
[SWEBENCH] SWE-bench
真实仓库问题的测试式评价;未运行基准。
论文 · 资料记录日期:2026-10-17
[OTEL] OpenTelemetry:GenAI agent and framework spans
GenAI约定已迁移;部分为Development。正文使用概念,不固定全部属性名。
规范文档 · 资料记录日期:2026-10-17
[GENERATION] Hugging Face:Generation strategies
生成与解码策略。
官方文档 · 资料记录日期:2026-10-17
[SPEC] OpenAI Model Spec,2025-12-18
用于指令层级与来源边界,不声称是最新完整产品实现。
固定版本说明 · 资料记录日期:2026-10-17
[REASON] OpenAI:Reasoning models
推理输出、预算和状态接口;不访问或伪造隐藏思维链。
官方文档 · 资料记录日期:2026-10-17
[STRUCTURED] OpenAI:Structured outputs
结构约束、拒绝和不完整结果;结构正确不等于事实正确。
官方文档 · 资料记录日期:2026-10-17
[STREAM] OpenAI:Streaming responses
增量事件与响应状态;按当前接口处理。
官方文档 · 资料记录日期:2026-10-17
[SSE] WHATWG HTML:Server-sent events
事件流与解析边界;包内LF示例解析器不是完整标准实现。
标准 · 资料记录日期:2026-10-17
[ADAMW] Decoupled Weight Decay Regularization
权重衰减与优化器更新的区别。
论文 · 资料记录日期:2026-10-17
[CHINCHILLA] Training Compute-Optimal Large Language Models
计算预算下的规模与数据分配;不固定普适比例。
论文 · 资料记录日期:2026-10-17
[QLORA] QLoRA
量化基础上的参数高效微调。
论文 · 资料记录日期:2026-10-17
[REACT] ReAct: Synergizing Reasoning and Acting
推理、动作与观察的交替。
论文 · 资料记录日期:2026-10-17
[LOST] Lost in the Middle
特定模型与任务中的长上下文位置效应,不是所有模型恒定规律。
论文 · 资料记录日期:2026-10-17
[HYDE] Precise Zero-Shot Dense Retrieval without Relevance Labels
用假设文档辅助检索;生成文本不是事实证据。
论文 · 资料记录日期:2026-10-17
[RAPTOR] RAPTOR
分层摘要检索。
论文 · 资料记录日期:2026-10-17
[GRAPHRAG] From Local to Global: A Graph RAG Approach
图与社区摘要支持跨文档问题;不是所有代码检索默认选项。
论文 · 资料记录日期:2026-10-17
[SELFRAG] Self-RAG
检索、生成与反思机制及训练;不是简单多写一句自检提示。
论文 · 资料记录日期:2026-10-17
[CRAG] Corrective Retrieval Augmented Generation
检索质量评估与纠正策略。
论文 · 资料记录日期:2026-10-17
[TP] PyTorch:Tensor Parallel tutorial
矩阵分片与通信;收益依赖硬件和并行规模。
官方教程 · 资料记录日期:2026-10-17
[ZERO] ZeRO: Memory Optimizations Toward Training Trillion Parameter Models
优化器状态、梯度和参数分片。
论文 · 资料记录日期:2026-10-17
[SRE] Google SRE:Monitoring Distributed Systems
监控、延迟与系统运行指标。
工程教材 · 资料记录日期:2026-10-17
[SLO] Google SRE Workbook:Implementing SLOs
面向用户目标的可靠性设计。
工程教材 · 资料记录日期:2026-10-17
[IDEMPOTENT] AWS Builders Library:Making retries safe with idempotent APIs
幂等键、重试与意图边界;不推导本地表等于分布式原子性。
官方工程文章 · 资料记录日期:2026-10-17
[SQLITE] SQLite:Isolation
数据库事务与隔离;不扩展为数据库外副作用事务。
官方文档 · 资料记录日期:2026-10-17
[LATENCY] OpenAI:Latency optimization
调用数量、Token和并行的延迟取舍。
官方文档 · 资料记录日期:2026-10-17
[SANDBOX] Beyond permission prompts: Claude Code sandboxing
文件系统和网络边界;本书不宣称完成安全审计。
官方工程文章 · 资料记录日期:2026-10-17
[A2A] Agent2Agent Protocol specification
跨Agent任务与通信;不自动赋予权限或业务一致性。
协议文档 · 资料记录日期:2026-10-17
[JUDGE] Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena
模型评分的偏差与评价问题。
论文 · 资料记录日期:2026-10-17
[HUMANEVAL] Evaluating Large Language Models Trained on Code
代码评价与pass@k估计;数值由本书独立计算。
论文 · 资料记录日期:2026-10-17
[TAU] τ-bench
多次运行可靠性和工具任务评价。
论文 · 资料记录日期:2026-10-17
[EVALS] Demystifying evals for AI agents
任务、试验、轨迹、评分和回归;本书不声称运行商业模型评测。
官方工程文章 · 资料记录日期:2026-10-17
[REVIEW] Google Engineering Practices:The Standard of Code Review
代码健康、适度审查和改进标准。
工程规范 · 资料记录日期:2026-10-17
[OWASP] OWASP LLM01:Prompt Injection
不可信内容、间接注入与边界;不是安全认证。
安全资料 · 资料记录日期:2026-10-17
[HIERARCHY] The Instruction Hierarchy
训练模型区分不同权威级别;模型行为不能替代执行权限。
论文 · 资料记录日期:2026-10-17
[SCALING] Scaling Laws for Neural Language Models
规模、数据和计算关系;数学例子标明假设。
论文 · 资料记录日期:2026-10-17
[GPT3] Language Models are Few-Shot Learners
上下文任务适应,与梯度更新区分。
论文 · 资料记录日期:2026-10-17
[CALIBRATION] Language Models (Mostly) Know What They Know
特定条件下自评与校准;不能推广为通用可靠置信度。
论文 · 资料记录日期:2026-10-17
[TRUTHQA] TruthfulQA
真实性与模仿错误信念的评测问题。
论文 · 资料记录日期:2026-10-17
[CLIP] Learning Transferable Visual Models From Natural Language Supervision
图文对比学习;不等同完整生成式多模态聊天系统。
论文 · 资料记录日期:2026-10-17
[OSWORLD] OSWorld
真实桌面环境中的多模态Agent评价;本书未运行基准。
论文 · 资料记录日期:2026-10-17
[SAE] Scaling and evaluating sparse autoencoders
稀疏特征、重构与解释局限。
论文 · 资料记录日期:2026-10-17
[HARNESS] Harness engineering: leveraging Codex in an agent-first world
仓库知识、环境反馈与工程约束;本文蓝图为独立教学设计。
官方工程文章 · 资料记录日期:2026-10-17
[F-TENSOR] PyTorch:Tensors
张量的shape、dtype、device与基本运算;本书二维三维数表为原创教学例。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-EMBED] PyTorch:Embedding
按整数索引取参数表行;输入形状后追加embedding_dim。教学表不来自预训练模型。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-PADDING] Hugging Face:Padding and truncation
批输入补齐、截断及模型相关配置;本书右补齐演示需取末个有效位置。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-CACHE] Hugging Face:How caching works
因果条件下逐层K/V复用与历史加新Token的长度关系。具体mask按实际实现核对。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-LINALG] 动手学深度学习:Linear Algebra
向量矩阵、点积、矩阵乘法及相关基础;数字推导独立编写。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-PROB] 动手学深度学习:Probability and Statistics
概率、随机变量、期望等基础;不照搬原文教学例。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-CALC] 动手学深度学习:Calculus
导数、偏导与链式法则;本书标量训练手算独立构造。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-AUTOGRAD] PyTorch:Automatic Differentiation
前向计算图、梯度和反向传播;标准库实验不调用autograd。
一手教材/官方文档 · 资料记录日期:2026-10-17
[F-IR] Stanford IR Book:Evaluation of Ranked Retrieval Results
排序检索评价、Precision/Recall及指标边界;不要将其替代回答正确性。
一手教材/官方文档 · 资料记录日期:2026-10-17