高级专题

LoRA通过低秩矩阵学习基础权重的增量，通常冻结原始权重，减少可训练参数。它改变参数化行为，不是检索或会话记忆。

低秩大小、作用模块和训练数据决定适配效果。可训练参数少不等于整个训练显存按同样比例减少。

原创练习：计算一个1024×1024矩阵与秩8增量的参数量，说明基础权重、激活和优化状态仍需考虑。

完成标准是理解成本来源与适用条件，不把参数高效等同于所有任务无损。

QLoRA结合量化基础模型与低秩适配，以降低微调内存需求。量化、计算精度和适配参数是不同层面。

基础模型通常保持冻结，训练重点在适配部分；具体数值格式与系统支持影响结果，不能任意互换。

原创练习：列出权重、梯度、优化状态和激活四类内存，判断哪部分受到低秩与量化影响。

完成标准是能解释为何“低比特模型”不代表所有运算都在同一低精度进行，也不保证任意硬件都更快。

AWQ利用激活相关信息指导权重量化，关注低比特部署中的质量与效率。量化方法改变表示与执行条件，不会自动增加模型知识。

实际加速依赖内核、设备与批处理方式；仅把文件变小不能证明端到端更快。

原创练习：比较模型权重大小、加载时间、推理延迟和任务质量四项指标，说明需要分别测量。

完成标准是区分存储压缩、数值误差与运行性能，不用某一项收益替代全部评价。

知识蒸馏利用教师信号训练学生，软分布可以包含比单一标签更丰富的相对信息。学生能力仍受容量、数据覆盖与目标限制。

教师错误也可能被传递，学生不能凭蒸馏自动获得教师所有工具、上下文和推理能力。

原创练习：比较只给正确类别与给多个类别概率的训练信号，解释后者包含什么额外关系。

完成标准是理解知识迁移的条件，并通过独立任务检验，而非仅看学生模仿教师措辞是否相似。

PEFT工具库组织参数高效微调方法，帮助实现适配训练。工具能降低实现成本，但不替代训练数据、许可、评价和部署兼容性治理。

不同方法修改的参数或提示表示不同，不能只因都称为PEFT就视为相同机制。

原创练习：先定义一个稳定输出行为目标，再决定需要什么样本、保留集和回归检查，最后才选择实现方法。

完成标准是有证据说明参数训练比Prompt、Skill或检索更适合当前问题。

TruthfulQA研究模型重复人类常见错误观念的现象，强调语言模仿能力与事实正确性之间的差别。流畅和常见不等于真实。

事实问题需要可靠来源或可验证计算。提高生成概率、降低温度都不能自动纠正错误知识。

原创练习：比较一个广泛流传但错误的说法与较少见的正确信息，说明仅依据文本频率为什么不够。

完成标准是要求结论与证据一致，并允许在信息不足时表达不知道，而不是用自信补空白。

模型自知相关研究探索模型对自身答案正确性的判断能力。研究条件下出现的信号不意味着任意模型口述置信度都经过校准。

生成概率、主观评分与实际正确频率需要区分。一个0到1的数值合法，不代表具有概率意义。

原创练习：把预测按置信度分组，对比各组真实正确率；样本少时同时说明不确定性。

完成标准是用独立数据检查校准，而不是因为模型说“非常确定”就放弃事实验证。

Self-RAG研究学习何时检索以及如何评价相关生成，涉及专门训练机制。它不等于给任意聊天模型加一句“请自我反思”。

检索需求判断与证据评价都可能出错。自评只能作为一类信号，不能代替真实来源与外部验证。

原创练习：区分可直接计算、需要最新信息和已有充分证据的三个任务，设计不同检索行为。

完成标准是按需获取信息并能处理不足，不把每个任务都变成无限搜索循环。

CRAG关注检索质量不足时的纠正路径，通过评价证据决定后续处理。检索失败需要识别，而不是在无关片段上强行生成答案。

证据不足、证据冲突和证据过期是不同问题，对应扩大查询、比较来源或更新数据等行动。

原创练习：给定三个互相冲突的版本说明，要求先确认时间与适用范围，再决定是否回答。

完成标准是纠正信息供给，而不是用更长的生成掩盖证据缺口。

Computer Use把图像观察与鼠标、键盘等动作连接起来。模型提出动作，外部执行器实施并返回新的观察；提出坐标不等于操作成功。

页面变化、缩放、异步加载和弹窗都会影响下一步。旧截图不能无条件用于新状态。

原创练习：设计“打开表单→填写→保存→检查结果”的循环，明确每步成功证据，而不是只检查点击位置。

完成标准是验证真实应用状态，同时对发送、购买、删除等重要副作用保持授权边界。

Claude Computer Use工具提供连接界面观察与动作的产品机制。集成者仍需准备执行环境、截图反馈与权限控制。

工具输出可能显示动作执行，但业务层仍可能拒绝，例如表单验证失败。模型应依据新观察继续判断。

原创练习：模拟按钮点击后出现错误提示，要求系统报告未完成并修正，而不是沿用原计划宣称成功。

完成标准是让动作与观察闭环，不能把一串鼠标命令当作任务完成证明。

OSWorld在真实计算机环境中评价多模态Agent任务。任务包含规划、定位、动作与结果验证，不只是识别界面元素。

环境版本、软件状态与执行限制会影响结果。基准分数不能直接代表任意企业桌面工作流。

原创练习：把失败分为定位错误、规划错误、操作未生效和最终检查遗漏，分别设计证据。

完成标准是分析真实任务断点，而不把所有GUI失败归因于视觉模型不够强。

SeeClick关注GUI Grounding，将语言目标与界面中的位置对应。定位能力是计算机操作的一部分，不等于完整任务规划与业务理解。

相似按钮、遮挡和页面布局变化可能造成歧义。定位正确后仍需确认动作效果。

原创练习：在两个同名“保存”按钮的示意界面中加入上下文，说明模型需要哪些信息消歧。

完成标准是区分“找到目标”与“完成用户目标”，分别评价定位与任务成功。

Computer Use集成把模型动作接到浏览器或桌面执行环境，再收集新观察。执行器需要处理坐标、等待、错误和状态，而不是只转发文本。

稳定API或结构化工具存在时，可以与GUI方式比较；后者适合需要真实界面或缺少接口的任务，但不应无条件优先。

原创练习：对同一数据读取任务分别设计API与界面方案，比较权限、脆弱性与验证成本。

完成标准是选择可控且可靠的接口，并保留最终状态检查，不只追求自动化外观。

Towards Monosemanticity研究把模型激活分解为更易解释的特征，指出单个神经元未必是最佳语义分析单位。本书依据研究团队可访问的官方介绍说明核心思想，不冒称覆盖全部实验附录。

特征与某类输入相关，不代表已解释完整决策。标签是研究者对行为的概括，仍需要干预检验。

原创练习：区分“某特征在路径相关文本中激活”和“该特征导致正确路径推理”两种命题，列出后者需要的额外证据。

完成标准是分清相关、解释假设与因果验证，不把可视化当成完整读心术。

稀疏自编码器尝试用较少激活特征重建模型内部表示。规模化研究需要同时评价重建质量、稀疏性和特征可解释性等方面。

重建更好不必然意味着解释更清楚，特征更稀疏也可能丢失信息。不同指标需要权衡。

原创练习：用简单二维数据说明“重建原向量”与“得到有意义的因素”不是同一目标。

完成标准是理解评价问题，并知道机制可解释性仍不能完整解释任意商业模型的一次回答。

Transformer Circuits汇集机制可解释性的研究路线，关注模型内部计算如何实现具体行为。它是持续研究领域，不是一套已经穷尽所有模型机制的说明书。

观察激活、提出特征解释、进行干预和验证行为变化是不同步骤。模型自然语言自述不能替代这些证据。

原创练习：为一个简单行为提出两种可能内部解释，设计能够区分它们的干预，而不只观察相关性。

完成标准是保持研究假设与实证结论分离，并认识到局部机制不等于整个系统行为的全部原因。