是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
机器学习自嘲的炼丹和化学材料自嘲的炒菜有什么本质上的区别？如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」？
算法岗位真的需要顶会才能入场吗？
Graph Attention Network的本质是什么？
什么是人工智能？人工智能、机器学习、深度学习三者之间有什么关系吗？
请解释下variational inference？
神经元之间的连接方式是怎样的，感觉如果按树突到轴突方式(多冲动聚为一个冲动)的话连接只会越连越少啊？
国内哪些公司在用caffe、torch、TensorFlow、paddle等框架，哪些在用自研框架？
当前（2020年）机器学习中有哪些研究方向特别的坑？
深度学习在无人驾驶汽车上面的运用有哪些？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
行为识别常用哪种特征提取？为什么说深度学习没有理论基础?
如何评价 Self-Normalizing Neural Networks 这篇论文?
在机器学习模型的训练期间，大概几十分钟到几小时不等，大家都会在等实验的时候做什么？
自监督学习（Self-supervised Learning）有什么比较新的思路？
什么是大模型？超大模型？Foundation Model？
语义网所谓的“本体”的具体例子是什么？
如何评价 On Unifying Deep Generative Models 这篇 paper?
如何评价周志华教授新提出的 Deep Forest 模型，它会取代当前火热的深度学习 DNN 吗？
如何评价 UCLA 朱松纯教授近日访谈中对深度学习的批评？
KL散度衡量的是两个概率分布的距离吗？
为什么 larger batch size 对对比学习的影响比对监督学习的影响要大？
如何评价贾扬清离职 Facebook？
能否用具体的例子解释一下 (Model-based) Structural Estimation？
为什么交叉熵（cross-entropy）可以用于计算代价？
三维重建怎么入门？
如何评价 MSRA 最新的 Deformable Convolutional Networks？
TensorFlow 中 padding 的 SAME 和 VALID 两种方式有何异同？
有哪些LSTM(Long Short Term Memory)和RNN(Recurrent)网络的教程？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
行人轨迹预测有哪些有效的方法和普遍的base方法？或者public dataset?
验证集loss上升，准确率却上升该如何理解？
如何理解深度学习源码里经常出现的logits？
人工智能的意义和价值是什么？
用于数据挖掘的聚类算法有哪些，各有何优势？
为什么多标签分类（不是多类分类）损失函数可以使用Binary Cross Entropy？
数据挖掘、机器学习、自然语言处理这三者是什么关系？这几个怎么入门啊？
为什么机器学习解决网络安全问题总是失败?
如何看待 AlphaFold 在蛋白质结构预测领域的成功？
多任务学习中loss多次backward和loss加和后backward有区别吗？