自监督学习（Self-supervised Learning）有什么比较新的思路？ 第1页
1
zhan-xiao-hang 网友的相关建议:
更新一个我们在CVPR2019的自监督学习新工作Self-Supervised Learning via Conditional Motion Propagation。具体见之前发的一篇文章。
------------ 2019的分割线 -------------
Mix-and-Match Tuning for Self-Supervised Semantic Segmentation.
这是一种为self-supervised learning服务的tuning的方法，主要为了缩小proxy task与target task的semantic gap. 目前可以在语义分割任务上不使用ImageNet pretraining，接近有ImageNet pretraining的performance。在其中一个setting中超越了ImageNet pretraining一点点。。。
后续可能会拓展到detection，并跟semi-supervised learning结合起来。
欢迎大家围观！
1
相关话题
语音识别中，声学模型与语言模型扮演什么角色？或者说是怎么通过两个模型进行语音识别的?如何看待AI伦理科学家Timnit Gebru在邮件控诉谷歌缺乏种族多样性后被Jeff Dean炒掉？
如何比较Keras, TensorLayer, TFLearn ？
2021 年，深度学习方面取得了哪些关键性进展？
深度学习方面还有什么Open Problem?
为什么Transformer要用LayerNorm？
能否训练一个AI模型来预测房价，寻找投资机会挖掘价值洼地？
为什么小模型已经可以很好地拟合数据集了，换大模型效果却要比小模型好？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
为什么小模型已经可以很好地拟合数据集了，换大模型效果却要比小模型好？
相关的话题
当前（2020年）机器学习中有哪些研究方向特别的坑？如何看待Kaggle最新比赛Zillow禁止中国居民参加第二轮？
不觉得最大熵原理很奇怪吗？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
如何评价新Nature子刊Nature Machine Intelligence的出现？
除了深度学习，机器学习领域近年来还有什么热点吗？
如何看待KDD'21的文章，异质图神经网络的效果不如简单的GCN、GAT？
实体提取任务中使用BERT-CRF时，CRF根据数据统计可以得到转移概率，为啥还要训练呢？
深度学习应用在哪些领域让你觉得「我去，这也能行！」？
土木和机器学习/深度学习/算法的交叉岗位在哪里找呀？ 在哪找都找不到招聘公司?
自学深度学习是怎样一种体验？
如何看待 Nervana 被 Intel 收购？
用 Python 进行数据分析，不懂 Python，求合适的 Python 书籍或资料推荐？
如何评价B站UP主未明子宣称“知乎搞机器学习模拟拉康的程序员”具备“头脑上的悲剧”？
深度学习方面还有什么Open Problem?
国内 top2 高校研一在读，为什么感觉深度学习越学越懵?
2017年1月18日Facebook发行的PyTorch相比TensorFlow、MXNet有何优势？
为什么yolov5从零开始训练（不在ImageNet上预训练）能够达到如此高的性能？
如何看待SIREN激活函数的提出？
如何看待学霸君的高考机器人 Aidam 高考全国文科数学卷考了 134 分？
2019 秋招的 AI 岗位竞争激烈吗？
有哪些比较好的元学习（meta learning）领域的学习资源？
如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
如何评价Kaiming He团队的MoCo v3？
机器学习中非均衡数据集的处理方法？
为什么现在有这么多人工智能无用论？
如何看待FAIR提出的8-bit optimizer：效果和32-bit optimizer相当？
caffe开发过程中使用了哪些工具？
Word2vec 翻译到另一种语言，其向量空间之间的映射会不会是线性的？
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？