为什么我还是无法理解transformer？
- 发表时间：2025-06-25 04:55:14
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-23 10:45:18明星现实中真的很漂亮吗？
- 2025-06-23 10:40:17你捡过最大的漏是什么？
- 2025-06-23 10:45:18为什么程序员独爱用Mac进行编程？
- 2025-06-23 10:35:18如何看待多地推出升级版「禁酒令」？
- 2025-06-23 10:15:17***如清空你一切***，但是你获得一个可以每天百分之一增长的一千块钱，你愿意吗?
- 2025-06-23 10:45:18如何看待《原神》6 月 20 日「无限抛掷推演」丝柯克角***页活动的表现？
- 2025-06-23 10:55:18为什么小米不是用玄戒o1而是用骁***gen3作为小米yu7的座舱芯片呢?
- 2025-06-23 10:15:17媒体称以色列防空成本一晚近 3 亿美元，最多再撑 12 天，美方会支援吗？若无美补给结果会如何？
- 2025-06-23 11:05:19为什么现在的人类不怎么戴帽子了？
- 2025-06-23 10:25:17为什么广东女生大多是素颜？
推荐产品
-
《甄嬛传》中祺贵人为什么和甄嬛反目？
反目的前提是以前交好过，所以问题不成立。 在后宫里面的各种 -
有什么是你去了上海才知道的事情？
强行松弛感，遍地打卡仙人，遍地人造网红景点。 以下所有图片 -
为什么现在的中国电影越来越烂？
我曾经亲自参与关上了中国科幻电影的左右两扇门。 《上海堡垒 -
伊朗炸了以色列指挥部上的医院是不是犯了反人类罪？
借用一位老哥的回答 水军别洗地了，以色列摩萨德总部都
最新资讯