为什么我还是无法理解transformer？
- 发表时间：2025-06-25 15:45:18
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-23 01:10:15中国的军事实力有多深藏不露？
- 2025-06-23 01:30:15我应该设置多少kb才能让他不能玩游戏？
- 2025-06-23 02:30:15皮肤太白是种怎样的体验？
- 2025-06-23 02:30:15如何评价“寡姐”斯嘉丽·约翰逊的身材？
- 2025-06-23 01:30:15为何有人说儒家文化下极容易产生「伪君子」？它的道德教化不是以平等和尊重的为前提的吗？
- 2025-06-23 02:20:15什么是 5G 固定无线接入（FWA）？
- 2025-06-23 01:30:15为什么游戏总是缺少 dll 文件？
- 2025-06-23 01:20:16荣耀在手机行业是一个怎样的存在？
- 2025-06-23 02:35:14你为什么对kotlin失去好感?
- 2025-06-23 02:10:142025年6月了，深圳房价咋样？
推荐产品
-
微软宣布全球裁员 6000 人，为 2023 年以来最大规模，为什么此时裁员？会对微软带来哪些影响？
零赔偿裁员新套路，把员工弄到美国再开除原创 一棵青木 远方青 -
有没有一款适合给PDF版电子书籍做批注写笔记的软件?
2025年回答 电脑端是 安卓pad端是 这俩东西都 -
5 月 28 日 DeepSeek R1 模型完成小版本试升级并开源，具体有哪些提升？使用体验如何？
DeepSeek总是非常的喜欢用“小”词，上次的V3-032 -
为什么不用rust重写Nginx？
cloudflare 已经重写了，他们认为 NGINX 有一
新闻动态
最新资讯