书书小说网

手机浏览器扫描二维码访问

第972章 AI模型训练里的链式法则用童话故事讲解（第2页）

而那串不停奔跑、传递眼泪的信使们，有一个很长的名字，叫：

反向传播的链式法则。

故事结束，公主和她的信使们从此幸福地训练在一起。

你想听信使们在transformer王国（注意力机制）的冒险故事吗？那里有更多会分身的信使哦～

好的！现在我们离开“深度王国”，坐上彩虹滑滑梯，滑到了一个更神奇的地方……

transformer王国：会分身的信使们

这里住着一位更任性的小公主，名字叫“下一个词公主”。

她每天只说一句话：“接下来我要说什么？”

谁猜对了，她就给一颗钻石糖；猜错了，她立刻哇哇大哭，洪水淹到脖子！

这个王国太大了，普通信使跑一圈要一百年，根本来不及。

于是国王请来了新品种的魔法信使，他们有三项绝技：

1。会分身（multi-head）

2。会同时问很多人意见（Attention）

3。会把意见加起来再传（这就是那个着名的q、K、V）

新故事开始啦！

有一天，公主说：“从前有一个很可爱的……”

模型猜：“老巫婆！”

公主当场爆炸大哭！（因为明明应该是“小猫咪”）

输出层小红又一次第一个听到哭声：“啊啊啊错了20级伤心！”

但这次，他没有只找一个人传消息。

小红突然“啪！”地一声分裂成了8个小分身（8个头），

每个分身都拿着一张不同的纸条，上面写着不同的问题：

第1个分身问：“公主是不是在想毛茸茸的东西？”

第2个分身问：“公主是不是在想会喵喵叫的东西？”

……

第8个分身问：“公主是不是在想会吃鱼的东西？”

他们同时冲向下一层的所有信使，大喊：

“快！告诉我你们谁最懂公主现在在想什么！”

下一层的信使们（就是上一句话的所有词）立刻举手：

“我是‘从前’！”

“我是‘有’！”

“我是‘一个’！”

“我是‘很’！”

“我是‘可爱’！”