2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
华为轮值董事长新年致辞称「预计今年营收 6340 亿元同比下降 28.9%」，还有哪些信息值得关注 ？如何评价 DeepMind 公司？
工作之后，顶会还重要吗？
2021年基本过完，今年有哪些最新网文值得看？
机器学习里面的流形都是怎么用的？
如何简单理解贝叶斯决策理论（Bayes Decision Theory）？
2021 年疫情之下，你留下了哪些暖心的照片记录？
机器视觉为什么不用手机的镜头，而要用那么大的工业相机？
如何看待多模态transformer，是否会成为多模态领域的主流？
什么是主动学习（Active Learning, AL）？
相关的话题
深度学习到底是「实验科学」还是「理论科学」？能否称为「算法」？Yoshua Bengio为什么能跟Hinton、LeCun相提并论？？
神经网络中 warmup 策略为什么有效；有什么理论解释么？
如何评价 Face++ 旷视科技最新出品的检测专用 backbone 网络 DetNet ？
视觉Transformer如何优雅地避开位置编码？
请问有没有基于实例的迁移学习的数据？
机器学习能否用于综合评价？具体怎么操作？
2022 年到底是会变得更好还是更糟？
如何用废话文学总结你的 2021 年？
如何总结自己的游戏 2021 年？
机器学习小白来提问：关于联邦学习FedAVG和FedSGD的问题？
坐标日本，计算机视觉专攻。有英文交流氛围浓厚的研究室推荐吗？
如何评价 MXNet 被 Amazon AWS 选为官方深度学习平台？
欧洲有哪些统计机器学习比较强的大学或者研究院的？？
人工智能可以解决人类难题吗？
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
如何评价微软提出的无监督视觉模型BEiT：ImageNet达到88.6，ADE20K达到57.0？
现在tensorflow和mxnet很火，是否还有必要学习scikit-learn等框架？
马上计算机研一，想问一下机器学习、深度学习…大家都是怎么入门的？
2021 年哪个瞬间让你感到「自己被深深爱着」？
验证集loss上升，准确率却上升该如何理解？
CVPR 2018 有什么值得关注的亮点？
如何全面理解工程师红利？
有哪些比较好的机器学习、数据挖掘、计算机视觉的订阅号、微博或者是论坛？
写深度学习代码是先写model还是dataset还是train呢，有个一般化的顺序吗？
AI领域的灌水之风如何破局？
隐马尔可夫模型在金融领域应用前景如何？
如何评价微软正在开发的人工智能编程软件 DeepCoder？
2021你看了多少本书 ，印象最深刻的是哪个？
如何评价MXNet发布的1.0版本？