我的 AI 学习地图学习笔记 / 02

旧版入门内容 · 进入新版知识图谱 →

沿着我的学习路径,认识 AI

模型怎样把输入变成结果?

从一个函数开始,向下理解模型的计算、参数,以及训练与推理。

02 / 通用解释

一个模型,可以先看成一个函数。

以神经网络为例:它接收数字形式的输入,按照计算结构和参数进行运算,再给出预测。结构规定“怎样算”,参数决定“具体算出什么”。

xfθ模型ŷ
x · 输入
用数字表示的文字、图像或其他数据。
θ · 参数
模型中的数值,通常通过训练从数据中学习。
ŷ · 预测
可能是类别得分、下一个 token 的得分、特征或噪声预测。

从一张图片、一句话,到可读的结果

  1. 01 / 输入表示

    把内容变成数字

    图片可以表示为像素数组或图像块;文字先分成 token,再映射到向量。

  2. 02 / 模型计算

    用参数处理信息

    卷积或注意力等模块,结合矩阵运算、非线性变换和归一化,逐层处理特征。

  3. 03 / 输出映射

    得到任务所需预测

    例如,图像分类模型输出类别得分;语言模型输出下一个 token 的得分。

  4. 04 / 结果处理

    变成人能使用的结果

    选择类别、采样 token,或将生成的表示解码成图像,供人阅读和使用。

这四步是理解流程的框架。输入编码和输出映射也可能属于模型本身;生成文字或图像通常需要反复调用模型,并结合采样等步骤。

训练:让参数逐渐学会任务

给模型数据,比较预测与训练目标,用损失衡量差距。神经网络通常通过反向传播计算梯度,再用梯度下降等方法调整参数;多次重复,学到可用于预测的规律。

推理:用学到的参数处理新输入

使用模型时,通常保持参数固定,执行前向计算。语言生成会逐个 token 重复这个过程;加入新的上下文或检索资料,并不等于更新了模型参数。

同一个框架,不同的任务

识别图片:猫的照片 → 提取特征 → 类别得分 → “猫”。

生成文字:当前上下文 → 下一个 token 的得分 → 选择一个 token → 加入上下文,继续生成。

生成图片:提示词和噪声 → 反复预测并更新 → 解码为图像。具体过程取决于模型与生成方法。

把概念放回我的学习图解

先读上面的通用解释,再按兴趣展开细节。原图保留学习过程,旁边的说明补充适用范围。

图解一:数字怎样连接到“理解”?表示学习 · 编码与解码

读图提示:token ID 是编号;模型学到的向量才承担特征表示。不同模型的表示空间不一定共享;向量接近也不保证语义理解正确。图中的类比算式是直观示意。

表示学习图解:将物理与语义内容编码为数字表示,再得到可读输出
你的学习图解 · 点击图片查看原尺寸
图解二:模型从输入到输出纵向深入内部机制

读图提示:这是一张概念总览,各种模型不会都按“卷积 → 注意力 → 矩阵乘法”排列。矩阵运算本身就在许多模块内部;不同任务也会使用不同的输入表示与输出方式。

模型工作流程图:编码、模型处理、输出映射与后处理,以及训练和推理的区别
你的学习图解 · 点击图片查看原尺寸
图解三:参数在哪里,有什么作用?语言模型与 CNN 对照

读图提示:这是架构示例,归一化方式、偏置和参数比例会随模型变化。RoPE 通常在注意力中对 Q、K 应用位置相关旋转,并不是加到词向量上的一层位置嵌入。图中参数比例不能当作所有模型的固定比例。

语言模型与 CNN 的计算结构、参数形状及作用对照
你的学习图解 · 点击图片查看原尺寸

读完这一章

留一个想法,或一个问题

02 · 模型怎么跑

这里的留言公开可见。欢迎分享你的理解,也可以指出值得修正的地方。

正在分配你的访客编号…

同一浏览器在本站共用一个编号;清除网站数据后会重新分配。

0 / 1000

这一章的留言

正在读取留言…