超级产品经理
登录
首页 业界 产品 运营 技术 AI&大模型 网址导航

Transformer neural network

transformer 什么是Transformer 《Attention Is All You Need》是一篇Google提出的将Attention思想发
2023-11-24 技术

transformer

  1. 什么是Transformer
    《Attention Is All You Need》是一篇Google提出的将Attention思想发挥到极致的论文。这篇论文中提出一个全新的模型,叫 Transformer,抛弃了以往深度学习任务里面使用到的 CNN 和 RNN。目前大热的Bert就是基于Transformer构建的,这个模型广泛应用于NLP领域,例如机器翻译,问答系统,文本摘要和语音识别等等方向。
    ————————————————

其实没懂,太复杂了,之后有机会再深入研究

版权声明

本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符,请点击 举报 进行投诉反馈!

推荐阅读

  • Duilib中list控件支持ctrl和shif多行选中的实现 2023-12-08
  • [ICML2015]Batch Normalization:Accelerating Deep Network Training by Reducing Internal Covariate Shif 2023-12-08
  • win10系统 微软输入法 于eclipse ctrl+shif+f冲突间接处理办法 2023-12-08
  • Codeforces Round #259 (Div. 2) B. Little Pony and Sort by Shif 2023-12-08
  • 读LDD3,内存映射与DMA--PAGE_SHIF… 2023-12-08
关于网站 联系我们 浙ICP备14026978号-4
点击图标分享
首页 搜索 栏目 我的