一句话经过了哪些不同的对象
输入框中的文字,什么时候才变成模型能计算的东西?
配套正文:F01基础课
一句话经过了哪些不同的对象
输入框中的文字,什么时候才变成模型能计算的东西?
可以把这条路理解成“翻译格式”,但不是不断翻译成另一种人类语言。文字先成为编号,再成为数值表示;模型输出又被解释成文字或工具请求。磁盘文件在这条链外,只有宿主读取后把内容放进请求,模型才有机会使用它。
输入与适用条件:教学文字为“我爱”;此图只区分对象,不给这句话编造商业模型的真实Token编号或答案。完整的小模型逐轮生成见F15。
1 / 6 · 用户文字
窄屏可左右滑动图形,或点击“放大图形”。文字解释紧随图后。
此时只有字符。界面里能读到“我爱”,不等于神经网络已经处理了它。
本步状态由图形与说明共同给出。默认静止。用“下一步”看完解释再继续;播放到最后一步自动停止。键盘聚焦播放器后,可用左右键逐步查看、空格播放/暂停。图中颜色辅助区分,含义同时用文字注明。
逐步说明与计算记录
以下解释全部展开,与播放器使用同一份数据;不是另换输入的第二个算例。
1.用户文字
此时只有字符。界面里能读到“我爱”,不等于神经网络已经处理了它。
2.宿主组织请求
宿主选择要发送的信息。没有选入请求的文件,不会因为位于同一台电脑而自动进入模型。
3.分词编号
教学分词器给两个片段编号。编号1和2只表示词表项目,不携带“谁更重要”的大小关系。
4.查表成为向量
编号被当作行号,取出向量。查表已经属于模型表示计算,不是到Attention才第一次进入模型。
5.模型计算下一项
同样的参数作用于这次向量,得到候选分数。这步改变的是临时结果,不是训练好的参数。
6.宿主处理输出
如果输出是工具请求,必须由宿主执行并拿回结果;模型提议本身不能证明环境已经改变。
为什么需要
分清对象,才能查出“没提供信息”和“提供了却没用好”两类不同故障。
怎样实现
分别追踪用户文字、实际请求、模型输出、工具结果四份记录。
可能的代价与误解
把一段流畅回答当作文件已被修改的证据,会跳过真实执行与验证。
如何判断是否做对
用一个从未发送的测试文件提问,检查宿主是否真的读过它。