2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
2021 年你买过哪些使用体验极佳的耳机？2021 年哪几位演员是你心中的「年度演员」？
2021年人工智能领域有哪些关键性进展和突破？
如何评价CUHK以及Yuanjun Xiong提出的Trajectory Convolution？
多模态训练，怎么解决不同模态之间差异的问题？
2021 年，你读了些什么好书？推荐其中一本书给朋友你会选哪本？
2021 年你朋友圈哪张照片获赞最高？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
反馈控制理论在通信、信号处理等领域有哪些应用？
如何评价余凯创立的horizon robotics？
相关的话题
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？2021 年中国电竞市场总收入 1401.81 亿元，用户规模达 4.89 亿人，这意味着什么？
面试官如何判断面试者的机器学习水平？
如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」？
如何评价微软亚研院提出的把 Transformer 提升到了 1000 层的 DeepNet？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
如何评价VOLO: Vision Outlooker for Visual Recognition？
2021 年新出现了哪些广为流传的谣言？有没有令你印象深刻的辟谣？
金融学及金融从业者如何应对人工智能和大数据？
如何理解 Graph Convolutional Network（GCN）？
如果推出一款有「滤镜」功能的写作软件，修饰平庸的文字，会有市场吗？
人工智能在发展到极高的程度之后能否算得上是一种生命？
为什么这么多 NLP 大牛硕士毕业去企业不留在学术界？
为什么Transformer适合做多模态任务？
CVPR 2018 有什么值得关注的亮点？
Word2vec 翻译到另一种语言，其向量空间之间的映射会不会是线性的？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
2019年，计算机视觉领域，你推荐哪些综述性的文章？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
大家推荐一下，哪些学校的导师有在做量化交易、股票预测的？
如何看待何恺明最新一作论文Masked Autoencoders？
如果百年后深度学习最终有了公认的数学理论作为基础，能解释实验中的各类玄学，那这个理论会长什么样子？
NLP领域，你推荐哪些综述性的文章？
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
如何理解空洞卷积（dilated convolution）？
AI 都学会看论文了，科研工作者会被淘汰么？
2021年深度学习哪些方向比较新颖，处于上升期或者朝阳阶段，没那么饱和，比较有研究潜力？
Yoshua Bengio为什么能跟Hinton、LeCun相提并论？？
2021 年有哪些时刻让你觉得成年人的「破防」就在一瞬间？
回顾 2021 年，有什么事让你觉得自己被深深爱着？