Focal Modulation Networks-翻译

本文介绍了使用Focal Modulation替代自注意力（self-attention）的FocalNet(Focal Modulation Network)网络，新模块具有更好的token交互效果。 近些年，Transformers在自然语言处理、图像分类、目标检测和图像分割上均取得了较大的成功，归根结底是自注意力（SA ：self-attention）起到了关键性的作用，因此能够支持输入信息的全局交互。但是由于视觉tokens的大量存在，自注意力的计算复杂度高，尤其是在高分辨的输入时，因此针对该缺陷，本文提出了FocalNet网络。