我的 AI 学习地图V2 · 学习地图 · 2026.10
PROJECT 01 / GLM 教学模型

沿着一个小模型,把模块、训练和验证连起来。

第 7 / 8 章
CHAPTER 07 / 消融与确认

消融:看起来赢了,还要再确认

原作者的实现与实验结果 · 我的追问和理解变化见引文

另一组 RL 消融固定 128 次总生成预算,分别调整奖励粒度、无效输出惩罚、采样温度和 group size。它与主实验的 1,536 次预算不是同一组实验。开发集先筛选候选配置,再用新训练种子和未使用任务检查。

我的原话 · 当时的追问
换多个种子 → 得到多个结果 → 算置信区间 这一套流程怎么算的 一般什么程度上可以说结果稳定了
P3-M261 · 2026-10-14 · 原对话 ↗
我的原话 · 对 group size 的类比
这个其实和学习率很像
P3-M265 · 2026-10-14 · 原对话 ↗

原 AI 解释摘要 · 步长与步频

当时把学习率比作步长、group size 比作步频(P3-M266)。这能帮助形成直觉,但回答随后把开发集优势消失归因为更抖或过拟合,现有实验并没有单独验证这一因果解释。

整理核对 · 把类比变成可以检查的实验条件

本次固定的是总生成预算。group size 改变每题候选数、组内奖励基线、可安排组数和有效更新次数;学习率直接缩放优化更新,二者不是同一参数。下面的多种子结果回答“最初优势是否重现”,区间跨零表示当前证据不够明确,不等于证明两组完全相同。[C5] ↗

阶段报告记录能得出的结论
开发集筛选group 4 为 8/20,group 8 为 5/20形成待确认的假设
三个新种子group 8:12、14、11 /40;group 4:13、13、8 /40group 4 并非稳定取胜
平均确认结果group 4 为 11.3/40;group 8 为 12.3/40观察到的差值约 -2.5 个百分点
任务 bootstrap 区间差值区间约 [-6.7, +1.7] 个百分点现有证据未确认 group 4 改善

为什么固定生成预算仍不够简单

group 4、8、16 分别可安排 32、16、8 组;报告实际有效更新为 19、10、5 次。组大小改变了组内比较与更新安排,因此不是单纯把学习率调大或调小。解释结果必须连着预算和具体实现一起读。

避免把“未证明更好”写成另一种确定结论

区间跨零既不能证明两者等效,也不足以证明 group 4 必然更差。八个筛选分支的开发集比较经多重比较校正后未见显著优势;后续确认主要针对 group size,不能说所有候选都已完成同样的多种子确认。

这个章节值得展示的原因

展示一项实验怎样从好看的初始数字回到谨慎结论,能说明项目的验证质量。它不是为了堆满“最好成绩”,而是让读者看到选择、重复和反例都被记录。

作者实验来源:[C5] ↗ README 的 RL 消融章节与分析脚本。原对话 P3-M253 至 M268;结果归属仍为原仓库。

核对来源 · 1 项

技术核对:2026-10-16。个人学习记录只代表原对话当时的范围。

继续聊聊

留一个想法,或一个问题

03 · 项目

这里的留言公开可见。欢迎分享你的理解,也可以指出值得修正的地方。

正在分配你的访客编号…

同一浏览器在本站共用一个编号;清除网站数据后会重新分配。

0 / 1000

项目的留言

正在读取留言…