2021 年，深度学习方面取得了哪些关键性进展？ 第1页
1
xie-xu-dong-76 网友的相关建议:
不敢妄加评论，只是个人意见，GitHub上有人总结了2021 Amazing AI papers，我认为比较中肯，基本可以算是今年影响力比较大的论文集锦
我认为其一是Transformer攻占各个领域，尤其是Swin Transformer大杀四方；其二是各大研究机构的预训练大模型发布及其在下游任务的惊人性能，当然这也离不开self-supervised+transformer；其三就是大家都提到的MAE，当然还是离不开transformer；还有一个我认为比较重要的是基于NeRF的一系列工作也在今年开始爆发，包括CVPR best paper GIRAFFE，不过这方面工作主要还是集中在国外研究团队
1
相关话题
2021 年大家最大的感触是什么？什么最令你难以忘怀？你见过最差的算法工程师能差到什么程度？
回顾2021，展望2022，新的一年，你有什么愿望？对祖国有什么祝福？
机器视觉为什么不用手机的镜头，而要用那么大的工业相机？
因果推断会是下一个AI热潮吗？
如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
运维监控的KPI异常检测 业界有哪些实用方法？
物理专业的学生如何看待机器学习和大数据这些方向呢？
相关的话题
2020-2021年NLP有什么核心技术的更迭吗？或者有什么推动领域发展的paper吗？TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？
2021年，作为算法工程师的你们会在CV业务落地上用Transformer吗？
如何看待End-to-End Object Detection with Transformers？
如何理解链接预测（link prediction）？
有没有一些图像处理新手可以练习的项目？
深度学习对图像的处理，为什么大多基于RGB，而没有其他色彩空间，比如HSV？
CPU和GPU跑深度学习差别有多大？
如何看待Capsule Network在NLP领域的潜力？
如何看待多模态transformer，是否会成为多模态领域的主流？
研究推荐系统要对NLP很了解吗？
这一波人工智能泡沫将会怎么破灭？
请问下大家训练 SimCSE 时, loss 有没有这样的情况?
常用的机器学习算法比较？
如何评价微软机器翻译在 WMT2017 中英翻译达到「人类水平」？
是不是对于任意 n×n 大小的围棋棋盘，人类都赢不了 AlphaGo Zero 了？
2020年，多标签学习（multi-label）有了哪些新的进展？
2021 年你去过最美的风景的地方是哪里?
为什么 MobileNet、ShuffleNet 在理论上速度很快，工程上并没有特别大的提升？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
深度学习图像处理什么时候用到GPU？
ICLR 2018 有什么值得关注的亮点？
相比于时下流行的机器学习方法（联接主义），传统的人工智能方法（符号主义）有什么独一无二的优势？
如何评价生成模型框架 ZhuSuan?
2021年了，机器学习有什么高质量的专著?
2021年基本过完，今年有哪些最新网文值得看？
实验室一块GPU都没有怎么做深度学习？
2021 年，深度学习方面取得了哪些关键性进展？
有没有根据一张人物的立绘正面像，自动生成同风格各侧面角度像并自动衍生表情的软件啊？