为什么我还是无法理解transformer？
- 发表时间：2025-06-25 10:25:18
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-26 00:25:16小学生学编程，学c++好还是python好？学编程可以参加强基***吗？
- 2025-06-26 00:15:16Rust 的设计缺陷是什么？
- 2025-06-26 00:05:15数据库不就是增删改查一些数据吗？研发一个数据库到底难在哪了？
- 2025-06-25 23:50:16go为了编译速度减少了很多编译优化？为什么不能提供优化编译模式来提升运行效率？是太懒还是另有隐情？
- 2025-06-26 00:05:15为什么在中国邮箱不流行？
- 2025-06-25 23:25:16自己拥有一台服务器可以做哪些很酷的事情？
- 2025-06-25 22:50:16儿子抑郁四年左右了，他的未来该怎么办？
- 2025-06-25 22:55:16你最推荐 macOS 上哪款中文输入法？
- 2025-06-25 23:25:16男朋友说我穿衣服太开放，难道好身材不应该显示出来吗？
- 2025-06-25 23:25:16为何Microsoft能一直留在中国市场?
推荐产品
-
Flutter集成rust到底有多好？
要说最近比较火的语言和框架，Rust和基于Dart的Flut -
Vue性能优于React，那为什么还不用Vue？
国内大多数公司都换 Vue 了，除了几个起步很早的大厂，其他 -
为什么突破性的技术总是最先发生在西方？
坐标瑞典，别的公司不清楚，自己所在的公司总是了解的。 40 -
宁波东方理工大学学费每人每学年 9.6 万，为什么会这么贵？
一般来说民办高校的学费要比公办高校高不少，一年9.6万贵吗？
新闻动态
最新资讯