为什么我还是无法理解transformer？
- 发表时间：2025-06-25 05:25:15
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-21 05:00:17没有学习过SEO优化也没有师傅带，如何网站SEO优化？
- 2025-06-21 05:20:16跟离异的女同事聊天时，她冒出一句：「你老婆还不如我，离了跟我过得了」，我该怎么回答？
- 2025-06-21 05:30:17有谁现在正在使用苹果mac mini 吗？能分享一下使用感受不？
- 2025-06-21 04:10:16***如古代长城用的是C140混凝土，那千百年下来会完整的留存至今还是损坏的更加严重？
- 2025-06-21 04:55:16系统该怎样架构才能处理实时热点数据？
- 2025-06-21 04:40:15深圳房价能跌到什么位置？
- 2025-06-21 05:05:15广东省肇庆市怀集县洪水后，赵一鸣零食店被哄抢，物资和收银机里面的几千块钱被哄抢一空，如何评价？
- 2025-06-21 04:50:15go为了编译速度减少了很多编译优化？为什么不能提供优化编译模式来提升运行效率？是太懒还是另有隐情？
- 2025-06-21 05:10:16虽然说微服务已经很普遍了，但我看很多 gopher 为何只用 Gin单体那套，微服务都不写的？
- 2025-06-21 04:10:16女朋友是跳拉丁舞的，跳双人舞时会有身体接触，作为男友我感觉有点吃醋怎么办？
推荐产品
-
如何评价ReactOS?
开源的Windows兼容系统，一直都是我的一个追求，不过这个 -
眼睛有飞蚊症可以自愈吗?
哥们，大概率不可能的，以我之见，现在好的人可能和自愈就没什么 -
为什么印度到现在都没有搞出氢弹？
实际上就是搞不出来。 人类历史上单独搞出氢弹的就中美，也就 -
用J***a写Android的时代是不是要结束了？
只要Android Framework还是J***a写的，安
新闻动态
最新资讯