是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
有哪些比较好的元学习（meta learning）领域的学习资源？运维监控的KPI异常检测 业界有哪些实用方法？
有没有可能运用人工神经网络将一种编程语言的代码翻译成任意的另一种编程语言，而不经过人工设计的编译过程？
人类大脑的聪慧程度以 IQ 为标准，那么人工智能的水平用什么指标来衡量呢？
三维重建怎么入门？
GAN（对抗生成网络）可以被用于哪些（商业或潜在商业）实际问题？
神经网络的损失函数为什么是非凸的?
人们是如何想到奇异值分解的？
如何评价 MXNet 被 Amazon AWS 选为官方深度学习平台？
如何比较Keras, TensorLayer, TFLearn ？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
27岁了跨考计算机研究生会不会太晚？如何看待指出 神经网络的训练罪魁祸首是退化一文？
常用的机器学习算法比较？
神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？
神经网络中的能量函数是如何定义的？
如何评价最新的Octave Convolution？
如何证明对任意给定的正数e，存在M上的矩阵范数||A||，满足不等式||A||<=谱半径+e?
未来五年，数据科学家（Data Scientist）的岗位需求会如何变化？
深度学习中，模型大了好还是小了好呢？
深度学习（机器学习）的下一步如何发展？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
有哪些看了让你醍醐灌顶的书籍、论文、期刊，使你对如何做数据挖掘、特征工程、统计挖掘有了眉目？
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？
应该选择TensorFlow还是Theano？
机器学习系统MLSys中有哪些比较有前途的研究方向？
为什么softmax很少会出现[0.5，0.5]？
如何评价 MSRA 最新的 Deformable Convolutional Networks？
近几年有哪些关于机器学习中隐私（Privacy）和安全（Security）相关的研究值得关注?
有哪些职业容易被人工智能替代？
如何判断两个Deep Learning 数据集的数据分布是否一致？
为什么 MobileNet、ShuffleNet 在理论上速度很快，工程上并没有特别大的提升？
深度学习工作站中使用AMD的CPU会有问题吗？
机器学习的解释模型存在嘛？
CPU和GPU跑深度学习差别有多大？
有哪些比较好的元学习（meta learning）领域的学习资源？
为什么softmax很少会出现[0.5，0.5]？
人工智能可以为人类找寻他们心目中的另一半吗?
如何看待Hinton的论文《Dynamic Routing Between Capsules》？
深度学习attention机制中的Q,K,V分别是从哪来的？
如何看待李沐老师提出的「用随机梯度下降来优化人生」？