中英术语表
94个关键术语：先理解含义，再进入本地讲义。
词元Token
模型处理的离散符号，可是词、子词、标点或字节片段；不与单词或汉字固定一一对应。
分词器Tokenizer
把输入转换成Token ID并按规则解码的组件，必须与模型约定配套。
嵌入Embedding
将离散ID映射为连续向量；初始词向量与经过上下文处理的表示不同。
隐藏状态Hidden state
网络某层某位置的内部表示，不是可直接读出的固定事实条目。
注意力Attention
根据查询与键的匹配对值进行加权组合的模型内部运算。
查询、键和值Query / Key / Value
注意力中的不同投影表示，分别用于匹配与内容组合，不是外部数据库的同名对象。
因果掩码Causal mask
限制位置只能读取允许的过去信息，避免生成时访问未来目标。
交叉注意力Cross-attention
查询与被查询表示来自不同序列或来源的注意力形式。
残差连接Residual connection
把输入沿直接路径加回变换结果，帮助信息和梯度传播。
归一化Normalization
控制内部数值尺度的运算；位置和具体形式依模型架构而异。
旋转位置编码RoPE
通过旋转作用让注意力计算包含位置关系，不自动保证任意长度泛化。
多头、单组共享与分组查询注意力MHA / MQA / GQA
区别之一是查询头如何共享Key和Value头，影响缓存和推理权衡。
混合专家MoE
模型内部路由选择部分专家网络的稀疏结构，不是多个聊天Agent开会。
未归一化分数Logits
输出投影产生的候选分数，经过softmax等处理形成分布；不是事实置信度。
归一化指数函数Softmax
把分数变成和为1的正权重；稳定实现通常先减去最大值。
自回归Autoregressive
按已有前缀预测并选择后续Token，再把结果用于下一步。
预训练Pretraining
通过大规模训练目标更新参数，形成可迁移表示和能力。
监督微调SFT
利用输入与目标响应配对数据调整模型行为。
人类反馈强化学习RLHF
把偏好、奖励与策略优化结合的训练路线，不等于普通聊天反馈。
奖励模型Reward model
近似某种评价或偏好的模型，奖励高不一定等于事实或业务正确。
近端策略优化PPO
一种控制策略更新的强化学习方法，不等于整个RLHF系统。
直接偏好优化DPO
利用偏好对直接优化模型的训练方法，仍会更新参数。
上下文学习In-context learning
利用当前输入中的示例适应任务，通常不在该次推理中更新权重。
思维链Chain of thought
中间推理步骤相关的提示或输出形式；长解释不保证正确，也不等于全部内部推理。
推理努力配置Reasoning effort
部分模型接口对推理计算的控制方式，支持与含义依产品而异。
过程监督Process supervision
评价中间步骤的训练信号，与只评价最终结果不同。
自一致性Self-consistency
对多个采样路径的答案进行聚合，不等于独立来源交叉验证。
预填充Prefill
处理已有输入上下文的阶段，与逐步生成的Decode资源特征不同。
解码生成Decode
基于当前状态产生后续Token的阶段，通常有串行依赖。
键值缓存KV Cache
复用过去位置的中间计算，减少重复推理；不是长期知识记忆。
提示前缀缓存Prompt Cache
复用符合条件的相同输入前缀处理结果；不等于内容压缩。
温度Temperature
调整采样分布尖锐程度的参数，不能自动提高事实正确性。
核采样Top-p
保留累计概率达到阈值的候选集合后采样，候选数量可动态变化。
IO优化注意力FlashAttention
通过改进分块和数据搬运提高注意力实现效率，不是任意丢弃信息。
分页注意力缓存管理PagedAttention
按块组织KV缓存，主要改善服务端内存管理与吞吐。
推测解码Speculative decoding
草稿提出候选，目标模型验证以加速生成；收益受接受率与开销影响。
结构化输出Structured output
按Schema约束格式和字段，不保证字段中的事实真实。
函数调用Function calling
模型提出工具及参数，外部系统验证执行，再把结果返回。
流式输出Streaming
以增量事件交付内容，需要完整组装并识别完成状态。
运行框架Harness
组织模型输入、工具、状态、权限与执行循环的外围系统。
智能体循环Agent loop
模型决策、工具行动、观察反馈和继续执行的循环。
工作流Workflow
主要路径预先定义的编排，可与动态Agent结合。
工具模式定义Tool schema
描述工具参数与结构，帮助模型调用并支持程序校验。
模型上下文协议MCP
连接Host、Client和Server的工具与数据协议，不自动保证权限或服务可信。
Agent间协议A2A
面向Agent发现、任务与消息交互的协议，与MCP关注点不同。
检查点Checkpoint
保存可恢复任务状态，不等于跨任务经验。
幂等性Idempotency
同一操作重复提交不重复产生预期外副作用，需要执行系统支持。
上下文组装Context assembly
决定本轮输入包含什么、来自哪里、以何种结构呈现。
上下文压缩Compaction
用更紧凑表示维持任务连续性，可能有信息损失或不透明状态。
信息外置Offloading
将完整资料放在外部，以引用替代常驻输入，必要时再取回。
检索增强生成RAG
利用外部检索证据辅助生成，检索与生成都有独立失败模式。
词项相关性方法BM25
基于词项统计与长度等因素排序，适合精确词项信息。
稠密检索Dense retrieval
利用向量表示召回语义相关内容，相似度不是正确概率。
混合检索Hybrid search
结合词项、向量等不同召回方式，需要融合与去重。
重排序Reranking
对候选结果进行更细致排序，不能补回未被召回的全部证据。
倒数排名融合RRF
按名次而非原始分数融合多个列表。
内容切分Chunking
将文档或代码分成检索单元，需平衡独立语义、粒度和上下文。
抽象语法树AST
代码语法结构表示，不自动包含全部类型与运行时语义。
语言服务器协议LSP
提供定义、引用、诊断等语言服务的交互约定。
前k项召回率Recall@k
必要相关结果中有多少出现在前k项，依赖相关性标签。
前k项精确率Precision@k
前k项中相关结果的比例，与召回关注点不同。
平均倒数排名MRR
对各查询首个相关结果排名倒数取平均。
归一化折损累计增益nDCG
同时考虑排序位置与相关程度的指标。
工作记忆Working memory
支持当前任务的可见信息与状态。
情景记忆Episodic memory
保存具体经历、事件和结果。
语义记忆Semantic memory
保存带范围与证据的知识或事实。
程序性记忆Procedural memory
保存可复用方法与流程，需避免经验过拟合。
记忆污染Memory pollution
错误或恶意内容被保存并在以后误用，可能形成自我强化。
技能工作包Skill
按需提供专业指导与资源，不是参数训练或确定性权限控制。
渐进披露Progressive disclosure
先提供入口元数据，再按需展开正文与资源。
事件钩子Hook
在明确生命周期节点运行程序化动作。
控制权交接Handoff
将任务控制移交给另一Agent，与工具式调用返回不同。
协调者—工作者Orchestrator-worker
由主角色分解和协调相对独立任务的模式。
架构决策记录ADR
记录重要选择的背景、方案与后果，便于以后重新判断。
评测Eval
用明确任务、条件、评分和证据判断系统能力与回归。
评分器Grader
根据特定标准评价结果或过程，可为程序、模型或人工。
至少一次成功指标pass@k
考虑k次尝试中至少一次成功，需明确采样和筛选口径。
重复全部成功指标pass^k
强调多次都成功的可靠性，不能与pass@k混用。
消融实验Ablation
移除或单独改变某机制，帮助判断其贡献。
概率校准Calibration
预测置信水平与相应样本真实正确频率的一致性。
提示注入Prompt injection
不可信内容诱导系统偏离授权目标，可能经外部材料间接发生。
沙箱Sandbox
限制文件、网络或执行资源影响范围的隔离环境。
最小权限Least privilege
只授予完成任务所必需的资源与操作权限。
轨迹与操作片段Trace / Span
分别描述任务因果结构和其中一次操作，注意并行重叠。
首Token延迟TTFT
到首次输出的等待，不等于任务最终完成时间。
服务目标SLO
对成功、延迟等服务行为的可度量约定。
退避Backoff
失败或限流后延迟重试，需有预算与错误分类。
低秩适配LoRA
冻结基础权重并训练低秩增量的一类参数高效方法。
量化低秩微调QLoRA
结合量化基础模型与低秩适配以降低训练内存。
量化Quantization
以较低精度表示权重或状态，影响误差、存储与执行条件。
知识蒸馏Distillation
通过教师信号训练学生，能力迁移受数据与容量限制。
界面定位GUI grounding
把语言目标与图形界面位置关联，不等于完成整个任务。
机制可解释性Mechanistic interpretability
研究内部表示与计算如何导致行为，需要区别相关与因果。
稀疏自编码器Sparse autoencoder
通过重建与稀疏约束提取表示特征的研究工具。