业界前沿技术:从零开始学视觉Transformer-Data-Efficient Image Transformers
目录
Training data-efficient image transformers & distillation through attention
- Training data-efficient image transformers & distillation through attention
- 从零开始学视觉Transformer
- Data-Efficient Image Transformers 论文复现
-
- deit.py DistilledVisionTransformer
- main_multi_gpu_distill.py
- losses.py
通过注意力训练数据高效的图像转换器和蒸馏 最近,纯粹基于注意力的神经网络被证明可以解决图像分类等图像理解任务。然而,这些视觉转换器使用昂贵的基础设施对数亿张图像进行