我的 AI 学习地图学习笔记 / 03

旧版入门内容 · 进入新版知识图谱 →

沿着我的学习路径,认识 AI

沿着历史,认识技术从哪里来。

横向看技术演化,点击节点深入解释,再与原始学习图对照。

03 / 横向历史

这些能力,是怎样一步步发展出来的?

横向看技术演化,点击节点向下读解释:它解决了什么问题,又有哪些能力边界。

现代 AI 的历史地图

左右滑动,浏览完整地图
01 视觉与行动02 生成与预测03 推理与工具
2017 之前 积累
2017 转折
2018—2020 规模化
2021 起 三条能力路线

不同任务,各有积累

这些路线在 2017 年后
仍然继续发展。

一条时间分界线

通用能力逐步积累

架构、训练方法与规模
共同推动后续发展。

01

视觉、语言与行动

图文对应 · 看图对话 · 机器人动作

02

图像、视频与环境预测

图像生成 · 视频生成 · 世界模型

03

推理、工具与反馈

分步推理 · 工具调用 · 经验与学习

连接表示学习顺序,各路线会交叉,并非严格的模型继承关系。

虚线节点:拓展问题,另有历史来源

2017 · 关键架构节点

Transformer

用注意力机制,让序列中的不同位置交换信息。

处理一句话时,模型可以根据当前内容,对不同位置的信息赋予不同权重。Transformer 最初用于机器翻译,后来逐步进入语言、视觉和生成等领域。

用一个例子理解

读到“我把苹果放进袋子,因为它很大”时,理解“它”需要结合其他词的信息。注意力提供了建立这种关联的一种计算方式。

记住这个边界

注意力是计算机制;模型能建立词语关联,并不保证每次都理解正确。

历史图解 · 对照阅读

横向地图给出主要节点,下面保留原始学习图,并补充需要修正的历史表述。

总览:感知理解与决策行动两条早期路线与后来的交叉

读图提示:2017 年 Transformer 是重要时间标记,各条路线仍按自己的节奏发展。感知与决策在 DQN 等早期系统中就有结合。早期 Stable Diffusion 使用 U-Net;不能将其视为 Transformer 统一架构下的直接后代。

原始历史总览:感知理解与决策行动两条路线的技术节点
你的原始学习图解 · 历史关系以网页地图与说明为准
视觉路线的早期积累从神经网络到 CNN

读图提示:1980 年应排在 1986 年之前。1986 年是反向传播推广的重要节点,并不是多层感知机的诞生年份;“1998 年 CNN 全面超越 MLP”也过于绝对,不同任务的适用性需要分别讨论。

视觉学习历史表:生物启发、反向传播、LeNet、ImageNet 与 AlexNet
你的原始学习图解 · 点击图片查看原尺寸
语言路线的早期积累从统计方法到 Transformer

读图提示:ELMo 通常以 2018 年论文为节点,图中的 2015 年需要修正。Transformer 在 2017 年提出,之后逐步进入更多领域,并非当年就统一了所有模型。

语言学习历史表:统计语言模型、词向量、序列模型、ELMo 与 Transformer
你的原始学习图解 · 点击图片查看原尺寸

读完这一章

留一个想法,或一个问题

03 · 技术怎么发展

这里的留言公开可见。欢迎分享你的理解,也可以指出值得修正的地方。

正在分配你的访客编号…

同一浏览器在本站共用一个编号;清除网站数据后会重新分配。

0 / 1000

这一章的留言

正在读取留言…