为什么我还是无法理解transformer？
- 发表时间：2025-06-25 13:10:17
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-22 17:35:17用K8s的公司有多少人会部署K8s？
- 2025-06-22 16:35:16如何评价「尖叫」这种饮料？
- 2025-06-22 16:30:18如何评价鸿蒙电脑无法编写其自身运行的程序？
- 2025-06-22 16:50:16如何看待凤凰传奇取消天津场演唱会？
- 2025-06-22 16:40:18为什么腰肌劳损这么难治？
- 2025-06-22 16:15:16以色列是如何从三天前的不可一世要灭了伊朗到今天的哭哭啼啼要“为生存而战”的？
- 2025-06-22 17:55:18问问大家建独立站都是花了多少钱，踩过哪些坑？
- 2025-06-22 17:40:16为什么很多车评人都买沃尔沃？
- 2025-06-22 17:20:15我听说Windows12微软就直接重头构建Windows了，就直接重构Win内核了，到底是不是真的?
- 2025-06-22 16:40:18黄晓明上戏考博落榜，本人回应「明年再战」，怎样看明星对高学历的追求？上戏博士有多难考？
推荐产品
-
这种裙子是不是对直男爆杀？
咋说呢，欧美款型的裙子欧美身材穿才是薄纱，在大街上见过瘦到特 -
生活中怎样的美女才能被称为「大」美女？
今天给大家分享一个AIGC热门玩法：AI街拍美女*** 美女 -
软路由是否被过度神化？
有一说一openwrt我真玩不来，原生还好，想玩插件总会遇到 -
老婆生了孩子，我对她完全没有感觉怎么办？
我生了两个娃，我老公还是很喜欢我，说我的身材很火辣，很***
最新资讯