自然语言处理NLP星空智能对话机器人系列:深入理解Transformer自然语言处理 BertViz
目录
The limits of the original Transformer architecture
- The limits of the original Transformer architecture
- Running BertViz
- Step 1: Installing BertViz
- Step 2: Importing the modules
- Step 3: Defining the HTML function
- Step 4: Processing and displaying attention heads
- 星空智能对话机器人系列博客
原始Transformer模型的限制可能与内存有关,我们将注意力集中到Transformer上,以获得一个实用的可视化视图。Open head_view_bert.ipynb实现由Jesse Vig设计的BertVizÿ