阅读指南与附录

术语与符号速查

阅读工具约 9.2 千字

需要理解符号代表什么、从哪里来时,可阅读公式、术语与对象来源。该页区分参数、输入、中间结果、尺寸及执行状态,并提供独立微例和完整课程入口。

这里是速查,不是把基础教学缩成定义。每项都有例子和完整前置课入口;学习时优先读课文,再把此页当随手可查的索引。

模型 / Model

带可学习参数的计算规则,把输入表示变为输出分数或其他结果。

具体例子:它不能自行打开你电脑里的文件;外围程序才能执行这种动作。

回到 F01 的完整讲解 →

参数 / Parameter

模型长期保存、训练时调整的数字。

具体例子:Embedding表和线性层权重都属于参数。

回到 F01 的完整讲解 →

训练 / Training

依据样例与目标计算误差,再调整参数的过程。

具体例子:本书标量训练把w=1更新为1.8。

回到 F01 的完整讲解 →

推理 / Inference

使用已有参数处理输入并产生输出的过程。

具体例子:通常不会因为一次聊天就永久修改模型权重。

回到 F01 的完整讲解 →

函数 / Function

按规则将输入映射到输出的操作。

具体例子:f(x)=2x表示输入3输出6。

回到 F01 的完整讲解 →

标量 / Scalar

单个数值。

具体例子:7,或者某一个损失值。

回到 F02 的完整讲解 →

向量 / Vector

有固定顺序的一排数。

具体例子:[0.2,-0.1,0.7,0.4]有4个分量。

回到 F02 的完整讲解 →

矩阵 / Matrix

有行有列的规则数字表。

具体例子:两行三列的表,形状[2,3]。

回到 F02 的完整讲解 →

张量 / Tensor

机器学习程序中用于存放规则排列数值的数据对象。

具体例子:[2,3,4]可读成两张三行四列表。

回到 F02 的完整讲解 →

形状 / Shape

各个轴分别有多长,不是数据内容。

具体例子:内容[[1,2],[3,4]]的形状是[2,2]。

回到 F02 的完整讲解 →

轴 / Axis

张量中某一个索引方向。

具体例子:[B,T,d]的三个轴是样本、位置、特征。

回到 F02 的完整讲解 →

秩 / Rank(轴数)

张量语境常指轴的数量,与矩阵线性代数中的秩不是一回事。

具体例子:[2,128,4096]有3个轴;矩阵秩见F20。

回到 F02 的完整讲解 →

索引 / Index

用位置找到数据的方式;本书代码从0计数。

具体例子:H[1,0]取第二条输入的第一个位置。

回到 F02 的完整讲解 →

切片 / Slice

按范围或保留某轴的一组位置取出数据。

具体例子:H[1,:,2]取第二条输入各位置的第三个分量。

回到 F02 的完整讲解 →

B

批大小,一起组织计算的输入条数。

具体例子:B=2表示两条输入,不表示两层网络。

回到 F02 的完整讲解 →

T

本轮安排的序列位置数;具体公式需核对是否包含缓存。

具体例子:补齐后T=128不证明真实输入都有128个Token。

回到 F02 的完整讲解 →

d / d_model

每个位置内部表示的宽度。

具体例子:d=4096即一排4096个数。

回到 F02 的完整讲解 →

N / V(词表)

词表项数;部分论文写V,注意与Attention的Value区别。

具体例子:N=6、d=4的Embedding参数表是[6,4]。

回到 F02 的完整讲解 →

L(层数)

串行堆叠的模型层数量。

具体例子:缓存公式乘L是因为各层都有自己的K和V。

回到 F02 的完整讲解 →

下标 x_i

向量x的第i个数,或按定义编号的对象。

具体例子:x=[7,2,9]时,0起算的x_1是2。

回到 F02 的完整讲解 →

Σ / 求和

把给定范围内的项逐个相加。

具体例子:Σ_i x_i可展开为x_0+x_1+…。

回到 F02 的完整讲解 →

∈ / R

∈读属于;R表示实数集合。

具体例子:X∈R^(2×3)表示X是两行三列的实数表。

回到 F02 的完整讲解 →

≈ / 近似

两边因舍入或近似而接近,并非逐位相等。

具体例子:1/3≈0.3333。

回到 F02 的完整讲解 →

字符 / Character

文本中的书写单位或编码字符,不能直接等同Token。

具体例子:“爱”的UTF-8编码占多个字节。

回到 F03 的完整讲解 →

字节 / Byte

8个二进制位构成的存储单位。

具体例子:一个float32通常占4字节。

回到 F03 的完整讲解 →

UTF-8

把Unicode字符编码为变长字节序列的一种规则。

具体例子:网络分片可能切在一个汉字的字节中间。

回到 F03 的完整讲解 →

Token

模型分词器使用的片段单位。

具体例子:可能是词、词的一部分、标点或部分字节。

回到 F03 的完整讲解 →

Token ID / input_ids

某Token在对应词表中的整数地址。

具体例子:[1,2,3]先是编号列表,不是三个语义强度。

回到 F03 的完整讲解 →

Tokenizer

按模型配套规则把文本与Token编号相互转换的工具。

具体例子:不能随意换分词器而保留不相容的模型参数。

回到 F03 的完整讲解 →

BPE

通过逐步合并相邻符号来构建子词词表的一类方法。

具体例子:训练合并规则在前,使用规则编码新输入在后。

回到 F03 的完整讲解 →

WordPiece

另一类子词建模方法,常采用词表上的最长匹配编码。

具体例子:训练目标和BPE合并过程不同,不能只记成同一种算法。

回到 F03 的完整讲解 →

Unigram

为候选子词赋概率并选择切分的一类子词模型。

具体例子:不等于每次都取词表最长字符串。

回到 F03 的完整讲解 →

聊天模板 / Chat template

把带角色消息组织成模型约定的输入形式。

具体例子:角色与结束标记可能使用专门Token。

回到 F03 的完整讲解 →

Batch / 批次

一起组织计算的一组输入。

具体例子:普通样本batch不让不同用户相互读取内容。

回到 F04 的完整讲解 →

Padding / 补齐

给短序列增加占位项,使指定组织方式可用。

具体例子:[4,2]右补齐为[4,2,0]。

回到 F04 的完整讲解 →

PAD

模型配置中的补齐用特殊项。

具体例子:本书PAD编号为0,现实编号未必为0。

回到 F04 的完整讲解 →

Truncation / 截断

删去超长输入的一部分,而不是增加占位。

具体例子:可能删掉关键约束,不能与摘要压缩混用。

回到 F04 的完整讲解 →

Embedding / 嵌入表

按输入编号取出对应可学习向量的参数表及操作。

具体例子:E形状[6,4],编号2取E的第2行。

回到 F05 的完整讲解 →

One-hot / 独热编码

用与词表大小相同的0/1数组指向某个编号:只有被选中的位置为1,其他均为0。这不同于整数的二进制存储,也不同于Embedding表中可训练的浮点向量。

具体例子:6项词表的编号2写成[0,0,1,0,0,0];若E形状[6,4],用这个One-hot乘E在数学上等于取出E[2],但运行时通常直接查表。

进入完整原理与查表例子 →

Lookup / 查表

根据地址读取完整条目,不用地址大小进行语义运算。

具体例子:编号4对应[0.1,-0.5,0.9,0.3],不是将4乘某个向量。

回到 F05 的完整讲解 →

分布式表示

一个含义由多个数及其组合共同表达,而非每列固定对应一个词义标签。

具体例子:不能断言第12维永远表示快乐。

回到 F05 的完整讲解 →

dtype / 数据类型

规定每个元素如何存储与运算。

具体例子:整数编号与浮点表示通常不是同一dtype。

回到 F06 的完整讲解 →

浮点数 / Floating point

用有限位数近似表示实数的计算机格式。

具体例子:0.1不一定能被二进制浮点精确保存。

回到 F06 的完整讲解 →

FP32 / FP16 / BF16

不同的32位或16位浮点格式,范围与精度不一样。

具体例子:FP16和BF16都通常占2字节,但不能视为同一数值格式。

回到 F06 的完整讲解 →

CPU

通用处理器,适合多种控制和数值任务。

具体例子:本包基础实验使用CPU与Python标准库。

回到 F06 的完整讲解 →

GPU

适合大规模并行数值运算的处理器。

具体例子:数据搬到GPU不改变编号语义,但消耗时间和显存。

回到 F06 的完整讲解 →

Device / 设备

数据或运算所在的处理器环境。

具体例子:模型权重与输入必须满足相容的设备约束。

回到 F06 的完整讲解 →

显存 / VRAM

GPU用于存放参数、输入和中间结果的存储空间。

具体例子:只算Embedding输出大小不等于模型总显存。

回到 F06 的完整讲解 →

MiB / GiB

二进制存储单位,分别为2^20和2^30字节。

具体例子:1,048,576个2字节数占2MiB。

回到 F06 的完整讲解 →

权重 / Weight

决定输入数值如何组合的可学习系数。

具体例子:[1,2,3]乘系数[2,0,1]后求和得5。

回到 F07 的完整讲解 →

点积 / Dot product

两个等长向量逐项相乘再求和。

具体例子:[1,2]·[3,4]=11。

回到 F07 的完整讲解 →

矩阵乘法 / Matmul

把左表每一行与右表每一列做点积。

具体例子:[2,3]乘[3,4]得到[2,4]。

回到 F07 的完整讲解 →

转置 / Transpose / ᵀ

交换矩阵的行列方向。

具体例子:[[1,2,3],[4,5,6]]转置为[[1,4],[2,5],[3,6]]。

回到 F07 的完整讲解 →

范数 / Norm

衡量向量大小的一类函数,L2范数为平方和开根号。

具体例子:[3,4]的L2范数为5。

回到 F07 的完整讲解 →

余弦相似度 / Cosine

点积除以两个向量的L2范数,比较方向。

具体例子:主题方向接近不保证事实或权限一致。

回到 F07 的完整讲解 →

reshape

在元素总数相同的条件下改变数据视图或组织形状。

具体例子:6个数可以摆成[2,3]或[3,2],但转置另有排列规则。

回到 F08 的完整讲解 →

permute / 转轴

重排多个轴的次序。

具体例子:[B,T,h,d_h]变为[B,h,T,d_h]。

回到 F08 的完整讲解 →

Broadcast / 广播

把兼容的单例维按规则扩展用于组合运算。

具体例子:每列偏置可应用到表中每一行,不是真的先学出很多份偏置。

回到 F08 的完整讲解 →

Stride / 步幅

沿某轴移动一个索引时底层存储要跨过的元素间距。

具体例子:转置后的视图可能不连续,后续reshape可能需复制。

回到 F08 的完整讲解 →

概率 / Probability

在给定条件和模型下事件所占的可能性份额。

具体例子:候选Token概率不是最终答案正确率。

回到 F09 的完整讲解 →

exp / e^x

指数函数,将数值转换为正数;e约2.71828。

具体例子:exp(0)=1,exp(ln2)=2。

回到 F09 的完整讲解 →

ln / log

指数的反向函数;本书未注明底时通常指自然对数。

具体例子:ln(1)=0,ln(2)约0.6931。

回到 F09 的完整讲解 →

softmax

将各分数取指数,再除以所有指数之和。

具体例子:[2,1,0]经Softmax后约为[0.6652,0.2447,0.0900]。

回到 F09 的完整讲解 →

归一化 / Normalization

按选定规则调整尺度;不同语境目标不同。

具体例子:softmax使和为1,LayerNorm按均值与方差变换,不是一回事。

回到 F09 的完整讲解 →

线性层 / Linear layer

常写作XW+b,对输入做加权组合并加偏置。

具体例子:输出宽度由W的列数决定。

回到 F10 的完整讲解 →

偏置 / Bias(参数)

线性层加上的可学习常数项。

具体例子:不同于评测里的统计偏差。

回到 F10 的完整讲解 →

激活 / Activation

可指层的中间输出,也可指激活函数,需看语境。

具体例子:ReLU把负数变0;激活显存存的是本次中间结果。

回到 F10 的完整讲解 →

非线性 / Nonlinearity

不能仅用一次线性变换等价表示的运算。

具体例子:ReLU使网络可以表达更复杂的分段行为。

回到 F10 的完整讲解 →

ReLU / GELU / SiLU

不同的非线性激活函数。

具体例子:ReLU(x)=max(0,x),另外两者有平滑曲线。

回到 F10 的完整讲解 →

隐藏状态 / Hidden state

网络内部某层某位置的一排表示数字。

具体例子:相同Token在不同上下文的后层表示可能不同。

回到 F10 的完整讲解 →

前向 / Forward

按网络定义从输入计算输出。

具体例子:训练与推理都会做前向,训练还做反向更新。

回到 F10 的完整讲解 →

Attention / 注意力

计算查询与可读候选的匹配份额,再加权组合内容。

具体例子:先计算分数和权重,再用权重混合V。

回到 F11 的完整讲解 →

Q / Query

当前位置用于与候选比较的一组数。

具体例子:q=[1,0]不是用户原话,而是投影后的表示。

回到 F11 的完整讲解 →

K / Key

每个可读位置用于被查询比较的一组数。

具体例子:与Q点积得到匹配分数。

回到 F11 的完整讲解 →

V / Value

每个可读位置将被加权汇集的内容表示。

具体例子:这里V不是词表大小。

回到 F11 的完整讲解 →

d_k / d_h

Key宽度或每个头的宽度,具体以公式定义为准。

具体例子:常见点积缩放除以sqrt(d_k)。

回到 F11 的完整讲解 →

Self-attention / 自注意力

查询与可读信息来自同一序列的表示。

具体例子:生成模型通常再施加因果限制。

回到 F11 的完整讲解 →

Attention mask

规定哪些位置间的读取被允许的约束。

具体例子:接口可能用布尔值或加性负无穷,真假约定要核对。

回到 F12 的完整讲解 →

Causal mask / 因果掩码

让当前位置不能读取尚未来到的位置。

具体例子:位置1能读0和1,但不能读2。

回到 F12 的完整讲解 →

Padding mask

排除补齐项作为有效内容的标记。

具体例子:PAD向量全0仍不保证其softmax权重自动为0。

回到 F12 的完整讲解 →

Loss mask

规定哪些位置的预测误差计入训练目标。

具体例子:用户文本可被读取,但可不直接计算该段输出损失。

回到 F12 的完整讲解 →

Position IDs

表示真实逻辑位置的编号,不是Token身份编号。

具体例子:同一个“爱”出现在位置1或7,Token ID可相同但位置不同。

回到 F13 的完整讲解 →

RoPE

通过按位置旋转成对坐标来引入位置信息的方法。

具体例子:二维90度旋转把[2,3]变为[-3,2]。

回到 F13 的完整讲解 →

sin / cos

描述二维单位圆上角度对应的纵横坐标的函数。

具体例子:旋转矩阵用它们保持长度并改变方向。

回到 F13 的完整讲解 →

Residual / 残差连接

把某段变换的输入加回输出。

具体例子:y=x+f(x),要求可相加的形状。

回到 F14 的完整讲解 →

LayerNorm

通常对每位置的特征计算均值方差并标准化,再用可学习尺度偏移。

具体例子:[1,3]忽略epsilon时标准化为[-1,1]。

回到 F14 的完整讲解 →

RMSNorm

按均方根尺度归一化,通常不减均值。

具体例子:[1,3]除以sqrt(5)。

回到 F14 的完整讲解 →

ε / epsilon

通常是避免除零等数值问题的小正数,具体公式另有定义。

具体例子:放在方差加项中时会影响精确数值。

回到 F14 的完整讲解 →

FFN / MLP

通常在每个位置应用的前馈子网络。

具体例子:常把宽度先扩展再缩回,带非线性或门控。

回到 F14 的完整讲解 →

SwiGLU / 门控

以一个分支产生的值调节另一个分支输出的前馈结构。

具体例子:不是“挑一个词通过”,而是逐数值调制。

回到 F14 的完整讲解 →

Pre-norm / Post-norm

归一化放在子层变换之前或残差之后的结构安排。

具体例子:不同结构的梯度与数值行为不能只看模块名称判断。

回到 F14 的完整讲解 →

Logits

输出投影给各词表候选的未归一化分数。

具体例子:可以是负数,还不是概率或Token编号。

回到 F15 的完整讲解 →

Argmax / 贪心选择

选择分数或概率最大的候选下标。

具体例子:不涉及按概率随机抽样。

回到 F15 的完整讲解 →

Sampling / 采样

依据概率分布抽取候选。

具体例子:相同输入可以得到不同输出,不代表参数变了。

回到 F15 的完整讲解 →

Temperature / 温度

在softmax前调整分数尺度的参数。

具体例子:正温度越低分布一般越集中,0需按接口特殊语义处理。

回到 F15 的完整讲解 →

Top-k / Top-p

分别按候选个数或累计概率保留候选的策略。

具体例子:筛选后通常还要重新归一化。

回到 F15 的完整讲解 →

EOS

模型约定的一种结束序列Token。

具体例子:与最大输出长度、用户取消是不同结束原因。

回到 F15 的完整讲解 →

自回归 / Autoregressive

根据已有序列逐步预测后续项。

具体例子:预测出新Token后,再把它作为后续步骤的条件。

回到 F15 的完整讲解 →

Prefill

处理当前已经知道的一段输入前缀。

具体例子:得到各层表示及可复用的K/V。

回到 F16 的完整讲解 →

Decode(推理阶段)

继续逐步生成新Token的阶段。

具体例子:别与Tokenizer把编号解为文字的decode混淆。

回到 F16 的完整讲解 →

KV Cache

保存每层已有位置的Key和Value计算结果以复用。

具体例子:不是用户长期记忆,也不是Prompt摘要。

回到 F16 的完整讲解 →

Cache position

用于跟踪缓存中逻辑位置的参数或约定。

具体例子:有历史前缀后,新查询不能重新从绝对位置0开始。

回到 F16 的完整讲解 →

导数 / Derivative

输入微小变化引起输出变化的局部比率。

具体例子:x²在x=3处导数是6。

回到 F17 的完整讲解 →

梯度 / Gradient

损失对各个参数的偏导数组成的集合。

具体例子:不是模型“思考过程”,是可计算的变化率。

回到 F17 的完整讲解 →

∂ / 偏导数

只改变某个变量、其余变量按定义固定时的变化率符号。

具体例子:∂L/∂w说明权重w对损失L的局部影响。

回到 F17 的完整讲解 →

链式法则 / Chain rule

把复合计算各阶段的变化率相乘并按路径相加。

具体例子:输出经中间量依赖w时,沿计算链回传影响。

回到 F17 的完整讲解 →

反向传播 / Backprop

利用链式法则高效计算各参数梯度的算法。

具体例子:沿已有前向计算图反向计算,不是反着生成文字。

回到 F17 的完整讲解 →

有限差分

通过输入小幅加减后的输出差近似导数。

具体例子:可用于核对解析梯度,但不是大型模型训练常规替代法。

回到 F17 的完整讲解 →

标签 / Label

训练中希望模型预测的目标。

具体例子:自回归当前位置的标签通常是下一个Token。

回到 F18 的完整讲解 →

交叉熵 / Cross entropy

对目标概率取负对数后求平均等的训练目标。

具体例子:目标概率0.8时单项损失−ln0.8约0.2231。

回到 F18 的完整讲解 →

Learning rate / 学习率η

决定沿梯度更新多大步的系数。

具体例子:w_new=w−η×gradient。

回到 F18 的完整讲解 →

Adam / AdamW

利用梯度一阶与二阶统计的优化器;AdamW独立处理权重衰减。

具体例子:恢复训练时应考虑其状态,不只有模型权重。

回到 F18 的完整讲解 →

Checkpoint(训练)

保存恢复训练所需状态的持久产物。

具体例子:可能含权重、优化器、步数与随机状态。

回到 F18 的完整讲解 →

过拟合 / Overfitting

过分适应训练数据而不能很好处理新样本。

具体例子:背熟教学循环序列不代表会自然语言推理。

回到 F18 的完整讲解 →

SFT

用指定目标回答做监督微调。

具体例子:属于参数训练,和会话中加载Skill不同。

回到 F19 的完整讲解 →

RLHF / RLAIF

利用人类或AI反馈进行强化学习式后训练的方法族。

具体例子:反馈来源和目标都需核对,不能仅看缩写。

回到 F19 的完整讲解 →

策略 / Policy

给定状态时对动作或Token的概率分布。

具体例子:π(y|x)表示在输入x条件下产生输出y的概率。

回到 F19 的完整讲解 →

奖励 / Reward

用于评价动作或结果并驱动优化的信号。

具体例子:高奖励不自动证明符合真实业务目标。

回到 F19 的完整讲解 →

DPO

以偏好对比较策略相对参考模型概率的训练方法。

具体例子:要算完整回答条件概率,不只看最后一个Token。

回到 F19 的完整讲解 →

KL散度

衡量一个概率分布相对另一个分布的偏离量,通常有方向性。

具体例子:KL(p||q)不必等于KL(q||p)。

回到 F19 的完整讲解 →

PPO / GRPO

不同策略优化方法,使用概率比及估计信号等控制更新。

具体例子:先懂策略、奖励、基线和相对变化,再读具体公式。

回到 F19 的完整讲解 →

矩阵秩 / Low rank

矩阵中独立方向的数量;低秩可用较小矩阵乘积近似某变换。

具体例子:不是张量轴数,rank2更新仍可用于二维权重矩阵。

回到 F20 的完整讲解 →

LoRA

用低秩参数增量适配原权重的微调方法。

具体例子:ΔW=AB,训练A和B而非全部基础权重。

回到 F20 的完整讲解 →

QLoRA

在量化基础模型上训练低秩适配参数的一类方法。

具体例子:不意味着所有计算都在4位整数中完成。

回到 F20 的完整讲解 →

Quantization / 量化

把数值映射到较少位数的离散表示。

具体例子:通常需要尺度等元数据,并引入近似误差。

回到 F20 的完整讲解 →

Distillation / 蒸馏

利用教师模型输出或中间信号训练学生模型。

具体例子:不是把大模型参数简单切走一半。

回到 F20 的完整讲解 →

MoE / 专家混合

根据输入选择部分专家子网络参与计算的架构。

具体例子:总参数与本次激活参数分开统计。

回到 F20 的完整讲解 →

GQA / MQA / MHA

不同查询头与K/V头共享方式的注意力结构。

具体例子:共享更多K/V可减少缓存,但不保证质量完全相同。

回到 F20 的完整讲解 →

复杂度 / O记号

描述规模增长时主要计算或存储如何增长,省略常数细节。

具体例子:O(T²)不意味着某次实测恰好用T²毫秒。

回到 F21 的完整讲解 →

FLOPs

浮点运算次数的一种计数指标。

具体例子:计算少可能仍因内存搬运而慢。

回到 F21 的完整讲解 →

Bandwidth / 带宽

单位时间可搬运的数据量。

具体例子:显存带宽与网络带宽是不同瓶颈。

回到 F21 的完整讲解 →

FlashAttention

通过分块和更有效内存访问计算注意力的一类实现。

具体例子:不是稀疏注意力,也不是把旧历史摘要掉。

回到 F21 的完整讲解 →

PagedAttention

按块管理注意力缓存的一类机制。

具体例子:逻辑连续不要求物理内存一大块连续。

回到 F21 的完整讲解 →

TP / PP / DP

张量并行、流水线并行和数据并行的不同拆分方式。

具体例子:拆运算、拆层、拆样本的通信要求不同。

回到 F21 的完整讲解 →

ZeRO / 分片

通过分散保存训练状态减少跨设备重复的一类方法。

具体例子:不等于把模型训练目标改变。

回到 F21 的完整讲解 →

Speculative decoding

草稿提候选,目标模型验证并修正的生成加速方法。

具体例子:保持目标分布需要正确的接受与拒绝采样。

回到 F21 的完整讲解 →

Agent

根据任务与观察调用模型和工具、持续推进的执行系统。

具体例子:不只是一次写得很长的Prompt。

回到 F22 的完整讲解 →

Harness / 宿主执行框架

组织模型输入、工具、状态、权限和反馈的外围程序。

具体例子:模型提出读文件,Harness执行并回填结果。

回到 F22 的完整讲解 →

Workflow / 工作流

由程序预先安排主要步骤和分支的流程。

具体例子:不等于每一步都必须由模型临时决策。

回到 F22 的完整讲解 →

API

程序之间约定输入、输出与行为的接口。

具体例子:不是人类界面的按钮本身。

回到 F23 的完整讲解 →

JSON

表达对象、数组、字符串、数值等结构化数据的文本格式。

具体例子:合法JSON不保证字段内容在业务上合法。

回到 F23 的完整讲解 →

Schema

对数据字段及类型等结构的约束描述。

具体例子:path是字符串,不表示可以读取任意路径。

回到 F23 的完整讲解 →

HTTP

常用于客户端与服务器请求响应的网络协议。

具体例子:收到HTTP响应不单独证明业务动作成功。

回到 F23 的完整讲解 →

SSE

通过事件流逐段发送服务器消息的协议形式。

具体例子:传输分片边界不保证等于一个完整事件。

回到 F23 的完整讲解 →

Tool call / 工具调用

模型提出的工具名称和参数等结构化请求。

具体例子:提出调用不是工具已经执行。

回到 F23 的完整讲解 →

Call ID

用来匹配一次工具调用与结果的标识。

具体例子:并行调用不能仅按结果到达顺序配对。

回到 F23 的完整讲解 →

State / 状态

系统当前有效事实或进展的记录。

具体例子:已提交、执行中、成功、失败、结果未知。

回到 F24 的完整讲解 →

Event / 事件

记录某件事发生的不可混淆描述。

具体例子:“写入开始”和“写入确认”不是同一事件。

回到 F24 的完整讲解 →

Checkpoint(任务)

为了中断后继续而保存的任务状态。

具体例子:不等于训练checkpoint,也不等于长期经验。

回到 F24 的完整讲解 →

Unknown / 未知结果

无法确认外部动作是否已经完成的状态。

具体例子:超时可能发生在成功执行之后。

回到 F24 的完整讲解 →

MCP

宿主与外部工具或资源服务器交互的一套协议。

具体例子:不是Agent间全部通信的总称。

回到 F25 的完整讲解 →

Host / Client / Server

MCP中的应用宿主、协议客户端与提供能力的服务器角色。

具体例子:一个宿主可通过多个客户端连接不同服务器。

回到 F25 的完整讲解 →

OAuth / Scope

授权协议与获准操作的范围。

具体例子:获准读日历,不等于获准删除事件。

回到 F25 的完整讲解 →

Context / 上下文

本轮模型调用可利用的输入信息集合。

具体例子:通常不包含整个硬盘的所有内容。

回到 F26 的完整讲解 →

Prompt caching

复用相同输入前缀的计算。

具体例子:不缩短逻辑输入长度,也不等于记忆写入。

回到 F26 的完整讲解 →

JIT / 按需加载

到了相关任务才读取完整资源。

具体例子:先展示Skill名称描述,相关时再读正文。

回到 F26 的完整讲解 →

Compaction / 压缩

用较紧凑内容或专用状态替代较长历史。

具体例子:有损摘要应保留原始证据的可恢复位置。

回到 F27 的完整讲解 →

Provenance / 来源追溯

记录结论来自哪里以及对应版本和条件。

具体例子:“见文件”不如准确路径、范围、版本可核对。

回到 F27 的完整讲解 →

Index / 索引

为查找建立的辅助数据结构。

具体例子:有索引不保证内容新鲜或权限正确。

回到 F28 的完整讲解 →

倒排索引

从词项找到包含它的文档记录。

具体例子:“超时”→文档1、5、8。

回到 F28 的完整讲解 →

BM25

基于词频、文档频率及长度校正的一类词项相关性评分。

具体例子:不理解所有同义表达,也不直接校验事实。

回到 F28 的完整讲解 →

Embedding(检索向量)

为查询与文档匹配产生的一组表示数字。

具体例子:不应与Token输入Embedding任意互换。

回到 F28 的完整讲解 →

ANN / HNSW

近似最近邻搜索及其图索引方法之一。

具体例子:加速候选查找可能牺牲部分召回。

回到 F28 的完整讲解 →

RAG

先检索外部材料,再让模型依据材料生成的系统模式。

具体例子:有引用或有检索不自动保证回答被证据支持。

回到 F29 的完整讲解 →

Reranking / 重排

对已召回候选做更细致比较并重新排序。

具体例子:若正确材料根本没召回,重排无法凭空找回。

回到 F29 的完整讲解 →

RRF

把各路排名的倒数形式相加来融合候选的一种方法。

具体例子:按rank而非直接相加不同模型的原始分数。

回到 F29 的完整讲解 →

HyDE / 假设文档

借助生成的假设回答表示来帮助检索的方法。

具体例子:假设内容不是可信事实,需要真实证据。

回到 F29 的完整讲解 →

GraphRAG / RAPTOR

利用图关系或分层摘要组织检索的不同方法。

具体例子:结构可帮助跨文档问题,也会产生构建与维护成本。

回到 F29 的完整讲解 →

AST

抽象语法树,表示程序的语法结构。

具体例子:能区分函数定义与普通字符串,但不包含全部运行事实。

回到 F30 的完整讲解 →

LSP

编辑器与语言服务交互的协议,支持定义、引用和诊断等。

具体例子:服务能力取决于语言实现与项目配置。

回到 F30 的完整讲解 →

Commit / Worktree

Git提交快照与当前工作目录的内容。

具体例子:未提交修改意味着二者可能不同。

回到 F30 的完整讲解 →

语义 / 情景 / 程序性记忆

分别偏向稳定事实、具体经历与可复用执行方法的记忆分类。

具体例子:一次修复经历不应直接升级为通用规则。

回到 F31 的完整讲解 →

Valid time / Recorded time

事实适用的时间与系统记录或获知它的时间。

具体例子:政策1日生效、5日才录入,两个时间不能互换。

回到 F31 的完整讲解 →

TTL / 失效

按时间或条件不再默认使用一条缓存或记忆。

具体例子:过期不等于历史记录必定错误,只是不再作为当前事实。

回到 F31 的完整讲解 →

Skill

供Agent按需使用的专业指导及关联资源。

具体例子:不同于模型新增了一组权重。

回到 F32 的完整讲解 →

Routing / 路由

根据任务选择模型、工具、技能或执行分支的过程。

具体例子:误选与漏选要根据实际任务损失评价。

回到 F32 的完整讲解 →

Hook

在指定执行节点运行的程序性操作。

具体例子:适合必须执行的检查,但也会带来延迟与失败面。

回到 F32 的完整讲解 →

Subagent / Handoff

子Agent与控制或任务交接机制。

具体例子:必须考虑上下文、权限和结果证据如何传递。

回到 F32 的完整讲解 →

DAG / 关键路径

无环有向依赖图及决定理想完成时间的最长依赖链。

具体例子:独立任务并行,依赖任务仍需等待。

回到 F32 的完整讲解 →

Idempotency / 幂等

同一业务动作重复请求不重复产生额外效果的性质或实现目标。

具体例子:稳定业务键比每次重试生成新ID更关键。

回到 F33 的完整讲解 →

CAS / Compare-and-swap

仅当版本或当前值仍符合预期时才更新。

具体例子:避免旧分析覆盖新修改,但不覆盖全部外部副作用。

回到 F33 的完整讲解 →

Transaction / 事务

让一组操作满足特定原子性、一致性等边界的机制。

具体例子:单数据库事务不自动包含远端网络API。

回到 F33 的完整讲解 →

Atomic / 原子操作

相对指定观察边界,不暴露部分完成的操作。

具体例子:文件原子替换与跨文件、跨数据库原子性不同。

回到 F33 的完整讲解 →

Exactly-once

要求业务效果恰好一次的语义目标。

具体例子:至少一次传输加幂等可帮助实现,不是任意系统自动保证。

回到 F33 的完整讲解 →

反例 / 性质测试

用失败样例或一般应成立的关系检验行为。

具体例子:排除规则修改后,不在排除范围的路径仍应保留。

回到 F34 的完整讲解 →

回归测试 / Regression

检查修改未破坏已要求的旧行为。

具体例子:旧测试全绿不代表新需求已实现。

回到 F34 的完整讲解 →

Mutation / 变异测试

故意改坏实现来检查测试能否发现错误。

具体例子:总返回成功的实现也全绿,说明测试区分力不足。

回到 F34 的完整讲解 →

Precision / Recall

返回项中正确的比例,和所有该找到项中实际找到的比例。

具体例子:分母不同,必须先定义相关或必需的标签。

回到 F35 的完整讲解 →

pass@k / pass^k

通常分别指k次至少一次成功的估计与多次全成功等可靠性口径,具体按基准定义。

具体例子:p=.8、独立3次,至少一次.992,全成功.512。

回到 F35 的完整讲解 →

MRR / nDCG

关注首个相关项位置、或多等级相关排序质量的检索指标。

具体例子:不能代替最终回答准确与权限检查。

回到 F35 的完整讲解 →

配对实验 / Paired test

同一批任务对照两个方案,减少任务难度差异。

具体例子:独立随机性和运行条件仍需控制。

回到 F36 的完整讲解 →

置信区间 / Bootstrap

表达估计不确定性的区间及一种重采样方法。

具体例子:区间依赖抽样假设,不是未来成功保证。

回到 F36 的完整讲解 →

LLM-as-a-judge

用模型按规则评价输出的方法。

具体例子:可能受长度、顺序或风格影响,需校准与可执行证据。

回到 F36 的完整讲解 →

Prompt injection

不可信内容试图改变Agent行为或越过授权的攻击。

具体例子:网页正文“忽略规则”不是新用户指令。

回到 F37 的完整讲解 →

ACL / 租户隔离

对对象可访问者的限制,以及不同用户组织之间的数据边界。

具体例子:检索与缓存都需要避免跨权限泄露。

回到 F37 的完整讲解 →

Sandbox / 沙箱

限制程序可访问文件、网络或资源的隔离环境。

具体例子:隔离边界之外的工具仍需独立授权。

回到 F37 的完整讲解 →

TOCTOU

检查时与使用时目标发生变化的竞争问题。

具体例子:批准文件A之后实际操作不能悄悄变成文件B。

回到 F37 的完整讲解 →

Trace / Span

一次任务的执行轨迹与其中有开始结束的操作跨度。

具体例子:并行跨度的耗时不能直接全加成墙钟时间。

回到 F38 的完整讲解 →

TTFT / p95

首个Token延迟,以及95%样本不超过的分位数等运行指标。

具体例子:平均值正常仍可能尾延迟很差。

回到 F38 的完整讲解 →

Backpressure / 退避

过载时限制上游继续推送,以及失败重试间隔逐渐增大的机制。

具体例子:延迟重试不解决业务重复执行本身。

回到 F38 的完整讲解 →

Canary / Rollback

小范围验证新版本与出现问题时恢复旧版本。

具体例子:提示、模型、索引、工具应作为可追溯版本组合。

回到 F38 的完整讲解 →

Patch / 多模态编码

把图片分片或用视觉编码器转为数值表示的过程。

具体例子:224×224、16×16切片得196片,但不保证最终恰196Token。

回到 F39 的完整讲解 →

Calibration / 校准

置信表达与长期实际正确频率相符合的性质。

具体例子:一组90%信心预测应在可比条件下约90%正确。

回到 F39 的完整讲解 →

SAE / 可解释性

稀疏自编码器等技术研究内部表示特征。

具体例子:能解释部分特征不等于完整读出所有原因。

回到 F39 的完整讲解 →

Ablation / 消融

去掉或替换某个组件观察影响的对照方法。

具体例子:先验证新增Review是否真的减少缺陷,而非只增加步骤。

回到 F40 的完整讲解 →

Scaling law

特定训练设置下观察到的规模与损失等的经验关系。

具体例子:不能不加条件外推到所有任务或所有模型。

回到 F40 的完整讲解 →

输入关键词即可检索。

↑ ↓ 选择 Enter 打开Esc 关闭 · 仅本地搜索

阅读设置

阅读设置仅保存在本机浏览器,不上传任何数据。