是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？新手如何实现个简单AutoML框架。有参考的github开源项目介绍吗？
GPU 与 CPU 比较，为什么说 GPU 更适合深度学习？
奇异值分解（SVD）有哪些很厉害的应用？
有没有哪些人工的工作是无法被机器替代的？
如何理解深度学习源码里经常出现的logits？
如何评价 MSRA 最新的 Deformable Convolutional Networks？
深度学习在无人驾驶汽车上面的运用有哪些？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
CNN网络的pooling层有什么用？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何评价亚马逊AI新开源自动机器学习项目AutoGluon?如何评价中科大实现了媲美人脑能效的类脑突触原型器件？
如何理解今年发表在JMLR上随机森林算法SPORF？
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
去美国读CS博士，方向是机器人导航，视觉方面，推荐一下相关编程方面准备？还有相关算法需要学习哪些？
TensorFlow的自动求导具体是在哪部分代码里实现的？
有哪些比较好的机器学习，深度学习的网络资源可利用？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
GAN的生成器是怎么产生图片的？
R 中的哪些命令或者包让你相见恨晚？
神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？
假如我穿越到2017年第一个提出了Transformer、BERT等模型，我可以保送到清华北大吗？
LSTM如何来避免梯度弥散和梯度爆炸？
为什么自动控制理论这么玄学？
KL散度衡量的是两个概率分布的距离吗？
ICLR 2021 有什么值得关注的投稿？
如何看待KDD'21的文章，异质图神经网络的效果不如简单的GCN、GAT？
机器学习以及贝叶斯统计里，关于近似intractable integral，大家都偏爱什么算法？
Batch normalization和Instance normalization的对比？
深度学习做股票预测靠谱吗？
如何评价谷歌大脑的EfficientNet？
人工智能被高估了吗？
Dirichlet Processes 是一个什么样的随机过程？
在Auto ML的冲击下，ML算法人员是否会在前者成熟后失业的情况？
能否介绍一下强化学习（Reinforcement Learning），以及与监督学习的不同？
如何评价陈天奇团队新开源的TVM？
现在tensorflow和mxnet很火，是否还有必要学习scikit-learn等框架？
Domain Adaptation学术上有哪些方向，还有哪些可做的地方？
联邦学习/联盟学习 (Federated Learning) 的发展现状及前景如何？