是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?Batch normalization和Instance normalization的对比？
如何简单形象又有趣地讲解神经网络是什么？
如何理解 Swin Transformer 和 Vision Transformer不同任务上的差异？
Kaggle如何入门？
能否对卷积神经网络工作原理做一个直观的解释？
神经网络分类训练后得到的是连续的数怎么离散？
目前的人工智能离可以自己给自己写代码编程还有多远？
计算机视觉（cv）方向今年招聘情况怎么样?是否已经人才过剩?
Resnet到底在解决一个什么问题呢？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
如何通俗易懂地介绍 Gaussian Process？如何理解今年发表在JMLR上随机森林算法SPORF？
word2vec有什么应用？
如何直观地解释 backpropagation 算法？
普通FPGA工程师怎样向人工智能靠拢？
是不是并不是所有问题都适合用神经网络预测？
为什么 BERT 的 intermediate_size 这么大？
人工「神经网络」技术在信息处理上有何特点，工作原理是什么？
深度学习中，模型大了好还是小了好呢？
如何开发一个自己的 TensorFlow？
当前（2020年）机器学习中有哪些研究方向特别的坑？
如何评价移动端吊打一切万众期待的商汤深度学习推理框架PPL开源了却没有支持移动端？
把某人的 DNA 序列作为输入，正面照片作为输出，丢到深度神经网络里面学习，可行吗？
如何看待指出 神经网络的训练罪魁祸首是退化一文？
测试集在构造的时候需要人为控制其中应该正确的和应该错误的数据比例吗？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
AI（或者说神经网络/深度学习）能够实现科学（尤其是物理学）研究中提出假设这一步嘛？
如何看待swin transformer成为ICCV2021的 best paper？
如何评价 MLSys 这个会议？
如何评价各种关联因素分析算法,尤其是在算法效果对比方面?
百度在深度学习上使用Xilinx FPGA?
为什么自动控制理论这么玄学？
普通FPGA工程师怎样向人工智能靠拢？
神经网络中的能量函数是如何定义的？
如何理解今年发表在JMLR上随机森林算法SPORF？
如何看待最近一段时间旷视科技Face++、阿里、小米、京东、科大讯飞和地平线等相继在南京建立研发中心？
god bless us 为什么百度翻译是辛巴？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
给男友配置一个适合做深度学习的电脑要多少钱？
t-sne数据可视化算法的作用是啥？为了降维还是认识数据？