神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
5-10年后，你觉得哪些科技会让我们“遗忘”现在的生活？机器学习相关岗位面试中，有哪些加（zhuang）分（bi）项？
Partial Multi-Label Learning是什么？它的发展史又是怎样的？最新的进展如何？
如何评价李飞飞和李佳加盟谷歌？
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？
一般来说，三层神经网络可以逼近任何一个非线性函数，为什么还需要深度神经网络?
本科数学，目前在读计算机研一，毕业的时候想要应聘数据挖掘工程师，看了对数据挖掘工程师的招聘要求，感觉太宽泛了，希望能具体说一下现在应该准备哪些知识（算法？编程语言？其他？），谢谢！
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
在迁移学习中，只有fine-tune和基于实例的迁移可用在小样本上吗，还有其他的小样本迁移方法吗？
相关的话题
如何评价 On Unifying Deep Generative Models 这篇 paper?机器学习里的 kernel 是指什么？
视觉算法的工业部署及落地方面的技术知识，怎么学？
基于大数据的个人信用体系有没有可能被滥用？
李航的统计学习方法，吴恩达的视频，关于机器学习的东西都看不懂是怎么回事？
国内 top2 高校研一在读，为什么感觉深度学习越学越懵?
为啥gan里面几乎不用pooling？
有哪些关于机器学习的真相还鲜为人知？
国内外有哪些做小样本学习(Few-Shot Learning)的优秀团队？
从算法的角度来看，Elsagate 事件暴露出了「自动推荐」的哪些问题，该如何规避？
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
当前人工智能特别是深度学习最前沿的研究方向是什么？
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
PyTorch中在反向传播前为什么要手动将梯度清零？
神经网络的万能逼近定理已经发展到什么地步了？
共轭是指 ‘先验分布与后验分布共轭“ ，还是指 "先验分布与似然函数共轭“？
如何看待北京交通大学学生在 ATM 机内学习?
本科数学，目前在读计算机研一，毕业的时候想要应聘数据挖掘工程师，看了对数据挖掘工程师的招聘要求，感觉太宽泛了，希望能具体说一下现在应该准备哪些知识（算法？编程语言？其他？），谢谢！
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
迁移学习与fine-tuning有什么区别？
在统计学领域有哪些经典奠基性的论文？
普通FPGA工程师怎样向人工智能靠拢？
新手如何入门pytorch？
机器学习（machine learning）在经济学领域是否有应用前景？
ICML2020有哪些值得关注的工作?
从今年校招来看，机器学习等算法岗位应届生超多，竞争激烈，未来 3-5 年机器学习相关就业会达到饱和吗？
如何解读「量子计算应对大数据挑战：中国科大首次实现量子机器学习算法」？
可以对只有一个像素的图片拥有版权或著作权吗？为什么？
为什么梯度下降能找到最小值？
为什么说股票不能通过机器学习来预测？