神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
如何评价新Nature子刊Nature Machine Intelligence的出现？如何评价Hinton组的新工作SimCLR?
多任务学习成功的原因是引入了别的数据库还是多任务框架本身呢？
现代人工神经网络是不是一个死胡同？这个技术是不是骗人的？
有什么算法能对一个长短不一的时间序列进行分类预测?
有没有哪些人工的工作是无法被机器替代的？
深度学习在无人驾驶汽车上面的运用有哪些？
现在机器学习工业界和学术界的差别越来越大了吗？尽早实习和踏实科研各有什么利弊？
主题模型(topic model)到底还有没有用，该怎么用？
有监督和无监督学习都各有哪些有名的算法和深度学习？
相关的话题
为什么C4.5决策树能处理连续特征，ID3树不能处理连续特征？除了深度学习，机器学习领域近年来还有什么热点吗？
你见过哪些“人工智障”?
如何看待Geoffrey Hinton的言论，深度学习要另起炉灶，彻底抛弃反向传播？
现在人工智能的某些学派，是不是跟中医有些像？
如何看待KDD'21的文章，异质图神经网络的效果不如简单的GCN、GAT？
当初的生物热，和如今的全民CS全民AI，让你想到了什么？
编程达到什么水平才能编写出像caffe这样的深度学习框架？
学习python中的pandas有没有好的教程推荐？
神经网络的损失函数为什么是非凸的?
验证集loss上升，准确率却上升该如何理解？
Python中 __init__的通俗解释是什么？
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
求通俗解释下bandit老虎机到底是个什么东西？
面试官如何判断面试者的机器学习水平？
怎么在家学习一些关于机器学习的知识?
机器学习算法进行分类时，样本极度不平衡，评估模型要看哪些指标？
梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？
能否训练一个AI模型来预测房价，寻找投资机会挖掘价值洼地？
为什么softmax很少会出现[0.5，0.5]？
NIPS 2018 有什么值得关注的亮点？
神经网络训练多个epoch，写论文的时候可以取最好的效果那一个epoch作为结果吗？
LSTM如何来避免梯度弥散和梯度爆炸？
有谁给解释一下流形以及流形正则化？
计算统计学（Computational Statistics）有什么好的资源和教材以及学习方法推荐？
让人工智能去下路边街头的象棋残局会赢吗？
如何简单理解贝叶斯决策理论（Bayes Decision Theory）？
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?
如何看待字节跳动 AI 实验室总监李磊入职 UCSB？
有监督和无监督学习都各有哪些有名的算法和深度学习？