是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
学习机器学习有哪些好工具推荐？有没有哪些人工的工作是无法被机器替代的？
国内哪些公司在用caffe、torch、TensorFlow、paddle等框架，哪些在用自研框架？
不觉得最大熵原理很奇怪吗？
什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)？
深度学习图像处理什么时候用到GPU？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
编程达到什么水平才能编写出像caffe这样的深度学习框架？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
为什么神经网络具有泛化能力？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何激怒一位人工智能（机器学习、深度学习、强化学习等）爱好者？我决定进军期货市场，您有什么建议吗？
人工智能在发展到极高的程度之后能否算得上是一种生命？
机器学习在Web攻击方向有什么建树吗？
如何看待 Google TPU？寒武纪芯片较之有哪些优势与不足？
有哪些比较好的机器学习，深度学习的网络资源可利用？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
ICLR 2019 有什么值得关注的亮点？
深度学习方面还有什么Open Problem?
有哪些比较好的元学习（meta learning）领域的学习资源？
如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？
Partial Multi-Label Learning是什么？它的发展史又是怎样的？最新的进展如何？
石头和塑料袋对于计算机传感器的差别在于什么？为什么无人驾驶系统会依然存在对周围环境的误判？
围棋AI为什么没有下出同局？
如何解决测试中充斥着大量训练集中没见过的样本类型模型将其识别成非我族类仍然保持测试集的高精度？
精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么？
计算机视觉中，目前有哪些经典的目标跟踪算法？
如何评价新Nature子刊Nature Machine Intelligence的出现？
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
如何证明数据增强（Data Augmentation）有效性？
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
如何看待 Uber 发生全球首例自动驾驶致死事件？
人工智能就业前景越来越严峻了，你还在坚持吗？
如何评价Google发布的第二代深度学习系统TensorFlow?
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？
2019 秋招的 AI 岗位竞争激烈吗？
如何评价余凯创立的horizon robotics？
有什么深度学习数学基础书推荐？
为什么yolov5从零开始训练（不在ImageNet上预训练）能够达到如此高的性能？
为什么学习深度学习感觉无法入门？