为什么我还是无法理解transformer？
- 发表时间：2025-06-24 18:15:16
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-21 03:55:16穿瑜伽裤爬山的女生会不会害羞？
- 2025-06-21 03:15:15狗头萝莉究竟做错了什么？
- 2025-06-21 03:20:16如何评价 GAI 在《歌手 2025》第六期演唱的《黄种人》？
- 2025-06-21 03:05:16你的鱼缸里养过什么奇怪的鱼？
- 2025-06-21 03:00:17周杰伦被曝现身日本弯腰驼背似老人，是真的吗？他曾称患有强直性脊柱炎，这病对身体影响有多大？能治好吗？
- 2025-06-21 03:25:16为什么有些前端一直用 div 当按钮，而不是用 button？
- 2025-06-21 02:30:16你怎么看待剪映收费过高问题？
- 2025-06-21 03:35:16为什么 macOS 并不差，可市场总敌不过 Windows？
- 2025-06-21 03:50:16一个演员的演技能好到什么程度？
- 2025-06-21 02:50:16苹果从 2026 年发布的 macOS 27 起不再兼容任何 Intel Macs，这背后原因有哪些？
推荐产品
-
有哪些让你目瞪口呆的 Bug ？
讲个离谱的， 第一阶段，之前买了一个小主机，巴掌大，一直用来 -
你做过什么让你解气的事？
2024年下半年，我从派出所调动到交警工作。 第2次值班时 -
为什么没有核动力货轮？
核动力这么强劲，为什么商船却不用？ 其实看看世界第一艘核动力 -
人为什么需要睡觉？人睡觉的时候身体都在做什么？
是啊，人类为什么要睡觉？ 如果你怀着这个疑问，去查其它动物是
新闻动态
最新资讯