AI 是怎么
"学" 出来的？
上一份我们讲了 AI「能做什么」。这一份，跟着小毛鸟钻进训练的黑箱，看看它到底怎么从一无所知，变成无所不知。
第一章 · 衡量错误
要会改错，
先得会算错。
训练 AI 的第一步，是把"它答得有多离谱"变成一个能比较的数字——这个数字叫损失（Loss）。
想象你在玩
猜数字游戏。
我心里想了个数（答案是 42），你来猜。
小明猜 40
差 2 · 不错
小红猜 10
差 32 · 太离谱
「差多少」就是一个数字。AI 训练时，这个差值就是损失。
离谷底越远，损失越大
第二章 · 蒙眼下山
知道错了，
然后往哪走？
把小毛鸟蒙上眼扔到山上，让它找最低的谷底。它看不见，但脚能感觉到坡度——顺着最陡的下坡走，总会走到低处。这就是梯度下降。
梯度 = 脚下最陡的
下坡方向。
类比 · 蒙眼下山
小毛鸟看不见四周，但站在原地转一圈，用脚感受哪个方向最陡地往下倾斜——那个方向，就是梯度的反方向（负梯度）。
所以「计算梯度」，本质就是问脚下：「往哪走，能最快降低损失？」
梯度
最陡方向
负梯度
往下走的路
知道方向还不够，
还得决定迈多大步。
这个「步子大小」有个名字：学习率。它太大会跨过谷底，太小会走到天黑。
同一座山，三种步长
最怕的不是走不到底，
是卡在半山腰的小坑。
这就是「局部最优」陷阱。
小毛鸟顺着坡度走到一个小凹坑，脚下四面都是上坡——它以为自己到谷底了，其实真正的最低点在更远更深的那个大谷。
怎么逃出小坑？
• 动量：带着惯性冲出去（像滚球）
• 随机扰动：偶尔瞎跳一下，碰运气
• 换个起点：多试几次，从不同位置出发
第三章 · 错误追溯
搞砸了，
怎么追究每层的责任？
真实网络有几十层。最终结果错了，是第 1 层的锅，还是第 50 层的锅？这个问题不解决，网络根本学不了。答案叫反向传播。
想象一条流水线，
五只小毛鸟接力干活。
场景：鸟1 → 鸟2 → 鸟3 → 鸟4 → 鸟5，前一只的输出喂给后一只，最后鸟5交出成品。
结果：成品错了 10 分。现在要问：每只鸟各该背多少锅？
直觉：越靠近成品的鸟（鸟5），对最终结果影响越大，责任越大。顺着流水线往回追，把错误层层分摊——这就是反向传播。
但层数一多，
就会出两种怪事……
📉 梯度消失
责任传到前面几层时，越乘越小，最后几乎为零。前面的鸟收不到信号，等于没学到。
💥 梯度爆炸
反过来，越乘越大，变成天文数字，网络彻底乱套、崩溃。
层越深，信号越不稳定
第四章 · 优化技巧
学会，
还要学得好。
基础算法能学，但可能学得慢、学得歪、学得死。这一章讲几个让训练又快又稳又聪明的小技巧。
技巧三：正则化。
背答案 ≠ 会做题。
这叫"过拟合"。
模型把训练题死记硬背了，连标点错误都记住。结果：训练题满分，新题一塌糊涂。就像学生背答案，换个数字就不会。
正则化的办法：给模型加点"约束"，逼它学规律、别学死答案。
• L2 正则：权重太大的扣分（别把某一题记得太死）
• 早停：练到差不多就停，别练过头
• 数据增强：把题目变着花样出
第五章 · 看见注意力
上份讲了
注意力机制——
这次看见它。
Transformer 最神奇的地方，是我们可以把注意力画出来，亲眼看模型在"盯着哪里"。这是理解大模型最直观的方式。
把"谁注意谁"
涂成颜色深浅。
做法：句子里的每个字，去"看"所有字（包括自己）。
把关注程度涂色——越关注的格子颜色越深（越亮/越暖）。整句话就变成一张彩色方格图。
深色集中的地方，就是模型"盯着的重点"。
👁️ 这一刻，AI 的"思考过程"被你看见了。不再是黑箱——你能指出"它就是在看这几个字"。
第六章 · 从学说话到学做人
光会接话不够，
还得懂事。
预训练出来的模型像个读了万卷书却不懂规矩的神童。微调和对齐，就是教它"怎么说才得体、有用、不闯祸"。
RLHF 本质上，
就是训练小狗。
训狗的逻辑：
🐶 狗做了对的动作 → 给零食（奖励）→ 下次更爱这么做
🐶 狗做了错的动作 → 不理它（没奖励）→ 慢慢不做了
RLHF 一模一样：AI 给出几个回答 → 人类/奖励模型打分 → AI 学着多产生高分回答。
"越大越好"——
这个规律还在吗？
缩放定律（Scaling Law）：
过去几年发现一个惊人规律——参数越多、数据越多、算力越多，模型就越聪明，而且提升可预测。
这就是为什么各家拼命把模型做大。
但边际在递减：
从 10 亿到 100 亿参数，提升巨大；从 1000 亿到 1 万亿，提升小得多。越往上，性价比越低。
THE END · 篇一完结
现在，
AI 的黑箱
对你打开了。
🎯 以后听到"训练""损失""梯度""微调"，你脑子里都有画面了。
🚀 下一篇，我们把镜头从"内部"转到"外部"——怎么把这些强大的模型，真正用出生产力。
谢谢小毛鸟带你钻进训练黑箱 🐦
AI 进阶 · 篇一《AI 是怎么"学"出来的》