是不是并不是所有问题都适合用神经网络预测？ 第1页
1
yukio-2 网友的相关建议:
- 小样本情况，无论是低维还是高维，不如SVM和贝叶斯模型
- 低维数据，大样本量，不如各种ensemble类算法
- 以上主要问题在于过拟合，传统机器学习算法大部分对过拟合都有比较合理的解决方案，而神经网络基本只靠heuristic。dropout虽然在Bayesian deep learning里面有不错的意义，但只依靠dropout来做inference实践上未免有点单薄
- 低维时序数据，小样本量，大部分情况下比不过HMM，ARIMA一类的，比如语音识别里至今CNN没有比HMM效果好多少
- 三维的图像数据，神经网络参数量太大，虽然有不少文章voxel based cnn，我目前还没有复现过效果比较好的模型
- 上面的三维数据，有一种做法是多视角赤极投影，然后用LSTM去学，然而实数空间不存在一个SO(3)群到S2群的连续映射，因为二者不同构，所以即使你做出实验效果，也有可能是某种过拟合的结果
- 神经网络容易受到对抗样本的攻击，攻击很容易，防御十分困难，目前为止的大部分防御措施都被指出存在漏洞
- 不规则数据，比如说graph signal或者point cloud，虽然有不少文章都尝试graph signal上做卷积，但是目前为止，应用在复杂数据集上效果欠佳，而且数学研究者的工作与CS研究者的工作还有着巨大的隔阂
- 有一些文章用神经网络做图像去噪，这类的文章，凡声称自己是“盲”去噪，不加任何正则项先验项的，有一大部分连自己到底想做到什么样的目标都说不清
1
相关话题
怎样计算两个服从高斯分布的向量乘积的期望？老师给了一个神经网络的程序，他之前是跑通了的，但是我迭代几十次或者一百多次就报错。这个怎么解决?
默写很花时间怎么办？
卷积神经网络（CNN）的结构设计都有哪些思想？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
神经网络的万能逼近定理已经发展到什么地步了？
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？
如何评价 2018 清华大学特等奖学金计算机大类（贵系、软院、姚班）无人通过一轮筛选？
深度学习在无人驾驶汽车上面的运用有哪些？
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
前一个讨论
正负样本极不平衡的问题？
下一个讨论
怎样才能写出 Pythonic 的代码？
相关的话题
人工智能技术会不会最终赶上微积分的历史地位？深度学习调参有哪些技巧？
使用强化学习解决实际问题时常常避不开环境模拟或者使用离线强化学习算法，两者分别有什么优缺点？
有什么深度学习数学基础书推荐？
如何评价 DeepMind 在星际中的失利，以及 OpenAI 在 Dota 上的成功？
如果你是面试官，你怎么去判断一个面试者的深度学习水平？
有没有什么可以节省大量时间的 Deep Learning 效率神器？
所谓大数据分析，究竟要学什么？
机器学习系统MLSys中有哪些比较有前途的研究方向？
对于神经网络，硕士博士不需要弄明白原理，只需要应用，是这样吗？
如何评价移动端吊打一切万众期待的商汤深度学习推理框架PPL开源了却没有支持移动端？
如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？
深度学习方面还有什么Open Problem?
如何简单理解贝叶斯决策理论（Bayes Decision Theory）？
如何评价小米开源的移动端深度学习框架MACE？
谈谈机器学习在网络安全领域的局限性，以及是否乐观？
分类问题的label为啥必须是 one hot 形式？
大四年级，完全没接触过高数，目前对机器学习产生浓厚兴趣，该如何学习数学？
机器学习系统MLSys中有哪些比较有前途的研究方向？
有多少个数学家叫 Kolmogorov ?
CPU和GPU跑深度学习差别有多大？
2020-2021年NLP有什么核心技术的更迭吗？或者有什么推动领域发展的paper吗？
ICML2020有哪些值得关注的工作?
怎样衡量一个机器学习工程师对算法的掌握程度？
如何看待KDD'21的文章，异质图神经网络的效果不如简单的GCN、GAT？
CTC和Encoder-Decoder有什么关系?
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
寒武纪神经网络处理器效能如何 ？
如何看待多所 985 大学开设人工智能专业？
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？