当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 人气:发表时间:2025-06-25 13:40:13
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 怎么才能有尤雨溪一半强,该怎么学习?
- 为什么管理一严,员工就走人?
- 想深入学习网站后台技术,有哪些建议?
- 为什么感觉四***明很空洞?
- 人死了以后意识去哪了?
- 春兰杯世界职业围棋锦标赛,杨楷文 2-1 击败朴廷桓夺冠,如何评价这一结果?
- 做引体向上可能会诱发腰肌劳损吗?
- 如何看待现在的前端?
- 鸿蒙电脑正式发布,今年的大一新生会不会扎堆购买鸿蒙电脑?
- 黑客为什么可以做到无需知道源码的情况下找出系统漏洞?
最新资讯文章
- 为什么 electron 不做成独立的 runtime?
- ***拍大尺度片子时摄影师不会看光吗?
- 最近你明白了些什么道理?
- 笔记方式,请推荐一个靠谱,敢用上五年都不后悔的。?
- 胸大的女孩子有什么烦恼?
- 中美会因台海开战吗?
- 如何评价前端框架 Solid?
- vue + tsx 的开发体验能追得上 react+tsx么?
- postgresql能取代mongodb吗?
- 不管黑客用了多少跳板,最终是不是可以通过网络运营商找出真实 IP?
- 如何评价张靓颖刘宇宁《九万字》?
- 当下房子已经跌到这样了,你会买吗,为什么?
- 怎么看待三十而已里说的养鱼让人玩物丧志,养鱼是魔鬼,是黑洞,养鱼毁三代鱼缸毁一生的话?
- 目前最流行的 rust web 框架是什么?
- 江西到底算不算江南地区?
- Go 语言的使用感受是什么?
- 有没有一款音乐播放器,能连接nas音乐,创建音乐库,自动匹配歌词封面等等?类似infuse的概念呢?
- 如何看待不超过1879元的Mac mini(M4+16/256GB+票),易用性吊打同级其他台式电脑?
- Rust开发Web后端效率如何?
- 如何看待现在大多数男人都不谈恋爱了?





