是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？为什么说大模型训练很难？
如果人工智能迎来下一个寒冬，你认为会是卡在什么问题上？
是不是对于任意 n×n 大小的围棋棋盘，人类都赢不了 AlphaGo Zero 了？
transformer 为什么使用 layer normalization，而不是其他的归一化方法？
2019年CVPR有哪些糟糕的论文?
有谁给解释一下流形以及流形正则化？
神经网络模型压缩好就业吗?
2021年，ncnn发展的如何了？
深度学习在无人驾驶汽车上面的运用有哪些？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何评价Hinton组的新工作SimCLR?LSTM如何来避免梯度弥散和梯度爆炸？
机器学习初学者该如何选读适合自己水平的论文？
如何简单形象又有趣地讲解神经网络是什么？
可以对只有一个像素的图片拥有版权或著作权吗？为什么？
计算机视觉（cv）方向今年招聘情况怎么样?是否已经人才过剩?
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
能分享你收藏的国外AI talk, seminar平台或网站吗？
强化学习和自适应控制的关系是什么？
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
AMD的CPU是否适合搭建深度学习主机？
985工科研一觉得快要退学了怎么办？
为什么yolov5从零开始训练（不在ImageNet上预训练）能够达到如此高的性能？
2021 年各家大厂的 AI Lab 现状如何？
物理专业的学生如何看待机器学习和大数据这些方向呢？
如何评价「Patches are all you need」?
神经网络为什么可以（理论上）拟合任何函数？
Resnet是否只是一个深度学习的trick？
当前（2020年）机器学习中有哪些研究方向特别的坑？
为什么多标签分类（不是多类分类）损失函数可以使用Binary Cross Entropy？
现在tensorflow和mxnet很火，是否还有必要学习scikit-learn等框架？
如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
如何评价 NVIDIA 发布的 DGX-1？
如何才能看得懂变分贝叶斯方法（Variational Bayesian）？
深度学习（机器学习）的下一步如何发展？
请问一下，机器学习领域的联邦学习技术，目前看到最多的是微众银行，国内还有哪些顶级专家及机构和大学？
人工智能退潮期来了吗？
有什么算法能对一个长短不一的时间序列进行分类预测?
什么是蒙特卡罗 Dropout(Monte-Carlo Dropout)？