2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
ICLR 2019 有什么值得关注的亮点？为什么国家将加快人工智能研究生培养？又为什么很多研究生评论人工智能是个大坑呢？
机器学习中如何识别图片中的手是手背还是手心？
如何看待多模态transformer，是否会成为多模态领域的主流？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
如何评价周志华教授新提出的 Deep Forest 模型，它会取代当前火热的深度学习 DNN 吗？
如何直观地解释 backpropagation 算法？
2022 年，你希望过一个什么样的生活？
为什么这么多 NLP 大牛硕士毕业去企业不留在学术界？
TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？
相关的话题
梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？神经网络中的能量函数是如何定义的？
如何直观地解释 backpropagation 算法？
如何判断两个Deep Learning 数据集的数据分布是否一致？
如何评价FAIR团队最新推出的RegNet？
深度学习到底是「实验科学」还是「理论科学」？能否称为「算法」？
计算机视觉（cv）方向今年招聘情况怎么样?是否已经人才过剩?
语音识别中，声学模型与语言模型扮演什么角色？或者说是怎么通过两个模型进行语音识别的?
2022 年你最期待的镜头是哪款，有哪些值得期待的提升？
2021 年度十大表情包出炉，包括「吴京中国、格局打开、没有世俗的欲望」，你常用哪些？反映了哪些心理？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
反馈控制理论在优化、机器学习等领域有哪些应用？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
Graph Attention Network的本质是什么？
结合深度学习的图像修复怎么实现？
深度学习火热兴起后，隐马尔可夫模型（HMM）还有何独到之处，是不是几乎可被深度学习模型给替代了？
如何评价最新的Octave Convolution？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？
2021 年，有哪些操控性能不错的车值得买？
自动化的控制与检测领域中，有没有像机器学习、图像处理领域一样经典巧妙的算法？
如何用自然语言处理判断一句话是否符合中文口语习惯？
2022 年你打算控制体重吗？目标体重是多少？
国内较强的NLP高校实验室有哪些？
如何评价贾扬清离职 Facebook？
如何看待 Larrabee 之父 Tom Forsyth 重加入 Intel？英特尔为何下注独立显卡？
机器人抓取时怎么定位的？用什么传感器来检测？
准研一，导师NLP方向，导师接下了一个项目让我跟着手工标数据，请问是不是在PUA我?
如何评价Google提出的MLP-Mixer：只需要MLP就可以在ImageNet上达到SOTA？
学习两年多，感觉SLAM太难了，大家对此有什么想法？
深度学习工作站中使用AMD的CPU会有问题吗？