是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
深度学习中，模型大了好还是小了好呢？算法岗位真的需要顶会才能入场吗？
有哪些职业容易被人工智能替代？
国内 top2 高校研一在读，为什么感觉深度学习越学越懵?
有人说「真正的人工智能至少还要几百年才能实现」，真的是这样吗？
如何评价 Kaiming He 在 ICCV 2017 上拿下双 Best 的 paper？
如何看待多模态transformer，是否会成为多模态领域的主流？
如何评价Google Duplex（打电话AI）在特定领域已经通过了图灵测试？
attention跟一维卷积的区别是啥？
CNN（卷积神经网络）、RNN（循环神经网络）、DNN（深度神经网络）的内部网络结构有什么区别？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何看待Hinton的论文《Dynamic Routing Between Capsules》？结合深度学习的图像修复怎么实现？
现在tensorflow和mxnet很火，是否还有必要学习scikit-learn等框架？
如何简单理解贝叶斯决策理论（Bayes Decision Theory）？
下一代 AI 框架长什么样？
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
深度学习应用在哪些领域让你觉得「我去，这也能行！」？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
多因子模型是否真的可以带来阿尔法（alpha）？
如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？
有没有可能运用人工神经网络将一种编程语言的代码翻译成任意的另一种编程语言，而不经过人工设计的编译过程？
如何看待MXNet获得amazon官方支持首位？
现在互联网公司还有做特征工程的工作吗？
自监督学习（Self-supervised Learning）有什么比较新的思路？
现在的人工智能是否走上了数学的极端？
编程达到什么水平才能编写出像caffe这样的深度学习框架？
三维重建怎么入门？
如何看待Meta（恺明）最新论文ViTDet：只用ViT做backbone（不使用FPN）的检测模型？
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
机器学习该怎么入门？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
为什么在实际的kaggle比赛中，GBDT和Random Forest效果非常好？
简单解释一下sparse autoencoder, sparse coding和restricted boltzmann machine的关系？
广告算法工程师的核心竞争力是什么？
为什么交叉熵（cross-entropy）可以用于计算代价？
深度学习图像处理什么时候用到GPU？
如何理解矩阵对矩阵求导？
为什么dropout正则化经常在视觉方面使用而不是其他？
有哪些可以自学机器学习、深度学习、人工智能的网站？
如何评价基于游戏毁灭战士（Doom）的AI死亡竞赛大赛结果？