图解 · 运行过程 · 工程取舍

一句话经过了哪些不同的对象

动态图解约 1.1 千字1 组分步图解

输入框中的文字,什么时候才变成模型能计算的东西?

配套正文:F01基础课

动态图解 · F01

一句话经过了哪些不同的对象

输入框中的文字,什么时候才变成模型能计算的东西?

可以把这条路理解成“翻译格式”,但不是不断翻译成另一种人类语言。文字先成为编号,再成为数值表示;模型输出又被解释成文字或工具请求。磁盘文件在这条链外,只有宿主读取后把内容放进请求,模型才有机会使用它。

宿主调用模型、访问工具、管理任务的普通程序。
模型参数已经加载的计算系数;本图中的普通推理不更新它们。
中间表示模型对本次输入实际算出来的数字,不是秘密中文草稿。

输入与适用条件:教学文字为“我爱”;此图只区分对象,不给这句话编造商业模型的真实Token编号或答案。完整的小模型逐轮生成见F15。

1 / 6 · 用户文字

第1步,共6步

窄屏可左右滑动图形,或点击“放大图形”。文字解释紧随图后。

一句话经过了哪些不同的对象:用户文字用户文字“我爱”是人能阅读的内容宿主组织请求把任务、规则、历史组织成消息分词编号教学词表:我→1,爱→2查表成为向量每个编号换成一排浮点数模型计算下一项参数固定;本次中间数值改变宿主处理输出显示文本,或验证后执行工具教学流程;高亮表示当前步骤,不表示真实耗时比例。

此时只有字符。界面里能读到“我爱”,不等于神经网络已经处理了它。

本步状态由图形与说明共同给出。

默认静止。用“下一步”看完解释再继续;播放到最后一步自动停止。键盘聚焦播放器后,可用左右键逐步查看、空格播放/暂停。图中颜色辅助区分,含义同时用文字注明。

逐步说明与计算记录

以下解释全部展开,与播放器使用同一份数据;不是另换输入的第二个算例。

1.用户文字

此时只有字符。界面里能读到“我爱”,不等于神经网络已经处理了它。

2.宿主组织请求

宿主选择要发送的信息。没有选入请求的文件,不会因为位于同一台电脑而自动进入模型。

3.分词编号

教学分词器给两个片段编号。编号1和2只表示词表项目,不携带“谁更重要”的大小关系。

4.查表成为向量

编号被当作行号,取出向量。查表已经属于模型表示计算,不是到Attention才第一次进入模型。

5.模型计算下一项

同样的参数作用于这次向量,得到候选分数。这步改变的是临时结果,不是训练好的参数。

6.宿主处理输出

如果输出是工具请求,必须由宿主执行并拿回结果;模型提议本身不能证明环境已经改变。

为什么需要

分清对象,才能查出“没提供信息”和“提供了却没用好”两类不同故障。

怎样实现

分别追踪用户文字、实际请求、模型输出、工具结果四份记录。

可能的代价与误解

把一段流畅回答当作文件已被修改的证据,会跳过真实执行与验证。

如何判断是否做对

用一个从未发送的测试文件提问,检查宿主是否真的读过它。

输入关键词即可检索。

↑ ↓ 选择 Enter 打开Esc 关闭 · 仅本地搜索

阅读设置

阅读设置仅保存在本机浏览器,不上传任何数据。