您当前的位置: 首页 >  机器人

段智华

暂无认证

  • 0浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

自然语言处理NLP星空智能对话机器人系列:深入理解Transformer自然语言处理 Translations with Trax

段智华 发布时间:2021-09-30 21:46:25 ,浏览量:0

自然语言处理NLP星空智能对话机器人系列:深入理解Transformer自然语言处理 Translations with Trax

目录
  • Translations with Trax
  • Creating a Transformer model
  • Initializing the model using pretrained weights
  • 星空智能对话机器人系列博客

Translations with Trax

Google Brain谷歌大脑研发了Tensor2Tensor (T2T),使得深度学习更容易,T2T是TensorFlow的扩展,包含了一个深度学习库,模型包含许多Transformer示例。

Tensor2Tensor (T2T)是一个良好的开端,谷歌Brain产生了端到端Trax深度学习库,Trax包含可应用于翻译的Transformer模型, 谷歌Brain团队目前维护着Trax。

本文我们将重点讨论Vaswani等人(2017)描述的英德翻译最小函数初始化问题,以说明Transformer的的性能。我们将使用预处理的英语和德语数据集来显示Transformer体系结构与语言无关。

Trax_Translation.ipynb从安装需要的模块开始。

关注
打赏
1659361485
查看更多评论
立即登录/注册

微信扫码登录

0.0423s