是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
如果有第谷的数据，现在的机器学习，深度学习有办法学出开普勒三定律吗？运维监控的KPI异常检测 业界有哪些实用方法？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
因果推断（causal inference）是回归（regression）问题的一种特例吗？
计算机视觉研一，只学过Python基础，目前代码能力很差，要不要换导师，不换的话如何毕业？
李航的统计学习方法，吴恩达的视频，关于机器学习的东西都看不懂是怎么回事？
如何评价 DeepMind 新提出的关系网络（Relation Network）？
如何看待多模态transformer，是否会成为多模态领域的主流？
pytorch ddp训练中一个node fail，导致整个训练失败，有可能解决吗？
为什么现在很多人不看好商汤科技？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
NLP领域，你推荐哪些综述性的文章？你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
自学深度学习是怎样一种体验？
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
为什么交叉熵（cross-entropy）可以用于计算代价？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
研一刚入学，从未接触过神经网络，python也是才开始学，现在导师要我做LSTM，我应该去学什么？
人工智能退潮期来了吗？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
深度学习与机器学习的关系是什么？
如何评价清华大学发布的自研深度学习框架-计图(Jittor)？
如何评价陈天奇团队新开源的TVM？
AI在网络安全领域（尤其是威胁检测领域），有什么好的应用场景？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
为什么熵值最大的分布状态是正态分布而不是均匀分布？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？
有哪些职业容易被人工智能替代？
如何系统学习机器学习？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
为什么 BERT 的 intermediate_size 这么大？
什么是meta-learning?
上学和读书有什么区别?
如何评价deepmind最新在nature上发表的论文《在人工网络中用网格样表征进行基于向量的导航》？
adversarial training为什么会起作用？
面试官如何判断面试者的机器学习水平？
神经网络的万能逼近定理已经发展到什么地步了？
如何评价 UCLA 朱松纯教授近日访谈中对深度学习的批评？
2021年深度学习在哪些应用上有实质进展？