是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
深度学习底层开发对数学有哪些要求？视觉算法的工业部署及落地方面的技术知识，怎么学？
人工智能被高估了吗？
DL/ML 模型如何部署到生产环境中？
为什么 Bert 的三个 Embedding 可以进行相加？
可以对只有一个像素的图片拥有版权或著作权吗？为什么？
机器学习中macro-F1的计算公式？
如何评价贾扬清离职 Facebook？
batchsize=1时可以用BN吗?
现在机器学习工业界和学术界的差别越来越大了吗？尽早实习和踏实科研各有什么利弊？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?关于tensorflow中的滑动平均？
机器学习，深度神经网络等方法是否是正确的方向？
编程达到什么水平才能编写出像caffe这样的深度学习框架？
计算机视觉是否已经进入瓶颈期？
如何直观地解释 backpropagation 算法？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
新手如何入门pytorch？
为什么说大模型训练很难？
如果用机器学习的理论来理解人的行为，会有什么发现？
行为识别常用哪种特征提取？
你遇见过什么当时很有潜力但是最终没有流行的深度学习算法?
CVPR2022 有什么值得关注的论文 ?
如何看待 AlphaFold 在蛋白质结构预测领域的成功？
如何评价微软正在开发的人工智能编程软件 DeepCoder？
深度学习应用在哪些领域让你觉得「我去，这也能行！」？
为什么现在不看好 CV 方向了呢?
深度学习领域，你心目中 idea 最惊艳的论文是哪篇？
如何看待MXNet在CVPR2017上公布的gluon接口？
CVPR 2015 有什么值得关注的亮点？
注意力机制是如何学习到模型所应注意的区域的？
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
如何系统学习机器学习？
推荐算法岗是否存在严重人才过剩?
mxnet的并行计算为什么这么牛，是什么原理？
如何把梯度传递过Argmax?
如何评价最新的Octave Convolution？
如何理解空洞卷积（dilated convolution）？
如果有第谷的数据，现在的机器学习，深度学习有办法学出开普勒三定律吗？