DropKey

## Pre title: DropKey accepted: CVPR 2023 paper: https://arxiv.org/abs/2208.02646 code: in paper 关键词： Transformer, dropout, 阅读理由： 方法简单通用，效果又好像很好，（组会） ......

前言 美图影像研究院（MT Lab）与中国科学院大学突破性地提出正则化方法 DropKey，用于缓解 Vision Transformer 中的过拟合问题。该方法通过在注意力计算阶段随机 drop 部分 Key 以鼓励网络捕获目标对象的全局信息，从而避免了由过于聚焦局部信息所引发的模型偏置问题，继而 ......