神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
人工智能和自动控制能在一起擦出什么样的火花？Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
为什么在SGD中使用L1正则化很难获得稀疏性？
请解释下variational inference？
nlp有哪些值得完整实现一遍的算法?
即时战略游戏（比如 WAR3）的 AI 是怎样实现的？
目前手势识别发展到什么水平了？
除了深度学习，机器学习领域近年来还有什么热点吗？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
如何评价基于游戏毁灭战士（Doom）的AI死亡竞赛大赛结果？
相关的话题
看完麻省理工博士胡渊鸣用代码实现「冰雪奇缘」后，自己陷入了深深的自卑，如何排解这种情绪？如何看待与评价 AAAI 2022 的录用结果？
pytorch 的高层库ignite怎么样？
为啥gan里面几乎不用pooling？
有没有什么可以节省大量时间的 Deep Learning 效率神器？
如何评价陈天奇团队新开源的TVM？
什么叫做泛函空间的大数定律？
为什么计算机科学中的神经网络模型得出来的结果被认为是科学的，而中医诊断却不被认为是科学的？
神经网络的万能逼近定理已经发展到什么地步了？
attention跟一维卷积的区别是啥？
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
网络上一位长者提出了“完全不依靠人工神经网络与机器学习算法实现人工智能”的理论，大家怎么看？
有哪些职业容易被人工智能替代？
机器学习初学者该如何选读适合自己水平的论文？
主题模型(topic model)到底还有没有用，该怎么用？
未来五年，数据科学家（Data Scientist）的岗位需求会如何变化？
如何对用户进行聚类分析？
深度学习调参有哪些技巧？
请问有没有基于实例的迁移学习的数据？
神经网络分类训练后得到的是连续的数怎么离散？
《失控玩家》中的游戏有可能实现出来吗？
三维重建怎么入门？
熵权法确定权重的原理是不是因为它仅依赖于数据本身的离散性?
不觉得最大熵原理很奇怪吗？
如何看待鄂维南院士等发起的机器学习联合研讨计划（c2sml.cn）？
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?
如果百年后深度学习最终有了公认的数学理论作为基础，能解释实验中的各类玄学，那这个理论会长什么样子？
深度学习如何入门？
机器学习系统MLSys中有哪些比较有前途的研究方向？