2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
在Auto ML的冲击下，ML算法人员是否会在前者成熟后失业的情况？深度学习attention机制中的Q,K,V分别是从哪来的？
graph convolutional network有什么比较好的应用task？
为什么nlp没有像cv四小龙一样的创业公司？
演员被贴上明显的标签，是会限制他的戏路，还是更有利于他被大众认可？
如何看待 Alex Smola 加入 Amazon？
为什么计算注意力机制的时候不加偏置项？
能分享你收藏的国外AI talk, seminar平台或网站吗？
如何看待斯坦福博士生2prime陆一平关于新冠起源的一系列言论？
大家用resnet50在imagenet上面top1最高能到多少？
相关的话题
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？如何评价微软提出的无监督视觉模型BEiT：ImageNet达到88.6，ADE20K达到57.0？
2021 你有哪些不得不说的投资血泪史？
如何评价华为天才少年钟钊团队成功开启了 AutoML 大规模商用的先河？什么是 AutoML？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
为何中国人迷恋吴恩达的机器学习课？
机器学习（machine learning）在经济学领域是否有应用前景？
自学深度学习是怎样一种体验？
有哪些比较好的机器学习，深度学习的网络资源可利用？
有多少个数学家叫 Kolmogorov ?
怎么选取训练神经网络时的Batch size?
三维重建怎么入门？
能识别情绪的机器人可以算做有情感的机器人吗？
从今年校招来看，机器学习等算法岗位应届生超多，竞争激烈，未来 3-5 年机器学习相关就业会达到饱和吗？
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
什么是狄利克雷分布？狄利克雷过程又是什么？
媒体预测 2022 年互联网 10 大关键词，反垄断、互联互通、数据安全等入选，你认同吗？
如何评价VOLO: Vision Outlooker for Visual Recognition？
去美国读CS博士，方向是机器人导航，视觉方面，推荐一下相关编程方面准备？还有相关算法需要学习哪些？
如何评价CUHK以及Yuanjun Xiong提出的Trajectory Convolution？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
人脸识别哪家强？
因果推断（causal inference）是回归（regression）问题的一种特例吗？
计算机视觉顶级会议论文中比较适合初学计算机视觉的人做的复现实验有哪些？
2021年，大家有哪些很有“底气”的高光时刻？
全连接层的作用是什么？
2021 年有哪部电影曾让你泪流满面？
2021年了，机器学习有什么高质量的专著?
如何看待斯坦福博士生2prime陆一平关于新冠起源的一系列言论？
全连接层的作用是什么？