为什么我还是无法理解transformer？
- 发表时间：2025-06-24 20:15:16
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-25 04:50:14特斯拉宣布将于 6 月 22 日开始 Robotaxi 公开试运营，这将对自动驾驶行业带来哪些影响？
- 2025-06-25 05:40:15一岁宝宝高烧39度，爸爸还能睡得着，离吗？
- 2025-06-25 05:45:14为什么银行都喜欢高公积金的客户？
- 2025-06-25 04:45:145070ti什么时候才能回归正常价格？
- 2025-06-25 05:00:14为什么总有人要说"再见，docker！"，那玩nas的为什么还离不开docker，比如绿联，飞牛？
- 2025-06-25 05:50:13都说时尚是一个轮回，有哪些老电视剧里面的穿搭到现在都还是很潮的呢？
- 2025-06-25 05:05:15为什么 CRT 画质这么好也被淘汰，液晶反而发展的很好？
- 2025-06-25 05:55:14有邻居的追求者出价三万，让我连续半个月每天找个女朋友晚上弄点动静，我该答应吗？
- 2025-06-25 05:45:14男医生在给年轻靓丽的女性检查时会是什么心态？
- 2025-06-25 04:30:15NAS噪音太大，大家都吧NAS放置到哪了？
推荐产品
-
为什么个人需要公网ip？
前段时间出门旅行了一周，回来后我老婆反映刷抖音网络卡，问我怎 -
有个漂亮女朋友是种怎样的体验？
谢npy邀，先放图：） 当年我随便在知乎发了个根本就没认 -
普通用户能体会到 CPU 的性能差距吗？
从i5-4690K换成了R5-7500F，表面上看似乎是当年 -
B-2真的天下无敌？
也能算是帝国最后的荣光了。 说实话90年代别说看B2了，就
新闻动态
最新资讯