神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
学习机器学习有哪些好工具推荐？如何简单理解贝叶斯决策理论（Bayes Decision Theory）？
如何评价新Nature子刊Nature Machine Intelligence的出现？
如果有第谷的数据，现在的机器学习，深度学习有办法学出开普勒三定律吗？
如何看待swin transformer成为ICCV2021的 best paper？
GAN（对抗生成网络）可以被用于哪些（商业或潜在商业）实际问题？
在哪里能找到各行业的分析研究报告？
已有大量编程基础，如何速成python用于学习机器学习？
人工智能已在哪些领域超越了人类的表现？
生成对抗网络的毕设怎么上手？
相关的话题
在CV/NLP/DL领域中，有哪些修改一行代码或者几行代码提升性能的算法？DeepMind 团队中有哪些厉害的人物和技术积累？
怎么选取训练神经网络时的Batch size?
计算机视觉中video understanding领域有什么研究方向和比较重要的成果？
人们是如何想到奇异值分解的？
神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？
在机器学习模型的训练期间，大概几十分钟到几小时不等，大家都会在等实验的时候做什么？
神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？
神经网络能否代替决策树算法？
神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？
普通程序员如何正确学习人工智能方向的知识？
搞机器学习的生环化材是天坑吗？
如何判断两个Deep Learning 数据集的数据分布是否一致？
如何评价中科大实现了媲美人脑能效的类脑突触原型器件？
深度学习方面还有什么Open Problem?
神经网络中如果一个重要特征C等于特征A+特征B（算数意义上的相加），选特征的时候还有必要选特征C吗?
有哪些可以自学机器学习、深度学习、人工智能的网站？
分类机器学习中，某一标签占比太大（标签稀疏），如何学习？
如何评价基于游戏毁灭战士（Doom）的AI死亡竞赛大赛结果？
神经网络模型压缩好就业吗?
如何评价生成模型框架 ZhuSuan?
如何看待swin transformer成为ICCV2021的 best paper？
神经网络模型压缩好就业吗?
人们是如何想到奇异值分解的？
了解/从事机器学习/深度学习系统相关的研究需要什么样的知识结构？
为什么 BERT 的 intermediate_size 这么大？
能否训练一个AI模型来预测房价，寻找投资机会挖掘价值洼地？
神经网络分类训练后得到的是连续的数怎么离散？
编程达到什么水平才能编写出像caffe这样的深度学习框架？
2020到2021年小样本学习取得重大进展了吗？