在计算机视觉任务中，运用Transformer和Non-local有何本质区别？ 第1页
1
shaohuali 网友的相关建议:
3年后再看non-local NN，原来 non-local block = transformer layer (single head) - FFN - positional encoding啊！
[1] 证明了FFN(即MLP)的重要性。这可能解释了为什么几层Non-local layer叠起来提升不大。我自己的实验证明positional encoding对分割任务是有提升的。另外很多transformer for cv的paper都证明multi head表现的比single head更好。
[1] Attention is Not All You Need: Pure Attention Loses Rank Doubly Exponentially with Depth. arXiv:2103.03404.
ai-hardcore 网友的相关建议:
女王:求求题主放过我，我可不敢有什么政绩。。。
1
相关话题
能否搜索某视频的其中一帧画面？或者通过一张图片搜索此图来自哪个视频？如何评价谷歌用30亿数据训练的20亿参数ViT-G/14模型在 ImageNet 达到新的 SOTA？
cv/nlp等方向的就业困难是全球性的吗？
如何评价最近火热的对比学习，会引领预训练模型新的范式嘛?
如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
如何评价Google提出的MLP-Mixer：只需要MLP就可以在ImageNet上达到SOTA？
为什么ViT里的image patch要设计成不重叠？
为啥gan里面几乎不用pooling？
没有顶会的CV/NLP方向的博士生毕业出路在哪里？
下一个讨论
电脑怎样执行编程语言的？
相关的话题
在计算机视觉任务中，运用Transformer和Non-local有何本质区别？车辆工程&计算机视觉？
如何看待旷视科技新产品监视学生上课？
Transformer中的Mask矩阵已经有顺序了，能去掉position embedding吗?
如何评价VOLO: Vision Outlooker for Visual Recognition？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
机器学习中如何识别图片中的手是手背还是手心？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
Transformer中的Mask矩阵已经有顺序了，能去掉position embedding吗?
如何评价微软亚研院提出的把 Transformer 提升到了 1000 层的 DeepNet？
adversarial training为什么会起作用？
如何评价CUHK以及Yuanjun Xiong提出的Trajectory Convolution？
Domain Adaptation学术上有哪些方向，还有哪些可做的地方？
大三电子类专业要分流，大家能给个建议吗?
为什么Transformer适合做多模态任务？
2019年CVPR有哪些糟糕的论文?
Transformer是如何处理可变长度数据的？
怎么形象理解embedding这个概念？
如何看待 AI 换脸软件「ZAO」的爆火？
如何评价微软新出的自拍软件 Microsoft Selfie？
如何评价VOLO: Vision Outlooker for Visual Recognition？
如何通俗易懂地讲解 Photoshop 中的「通道」概念？
机器视觉为什么不用手机的镜头，而要用那么大的工业相机？
Pytorch有什么节省显存的小技巧？
如何看待多模态transformer，是否会成为多模态领域的主流？
如何评价 Face++ 旷视科技最新出品的检测专用 backbone 网络 DetNet ？
视觉Transformer如何优雅地避开位置编码？
中国人工智能图像识别技术的开创者是谁？