神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
如何评价微软亚洲研究院提出的LightRNN？对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？
DL/ML 模型如何部署到生产环境中？
PyTorch中在反向传播前为什么要手动将梯度清零？
如何看待斯坦福博士生2prime陆一平关于新冠起源的一系列言论？
如何比较Keras, TensorLayer, TFLearn ？
未来 3~5 年内，哪个方向的机器学习人才最紧缺？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
Yoshua Bengio为什么能跟Hinton、LeCun相提并论？？
相关的话题
深度学习调参有哪些技巧？看完麻省理工博士胡渊鸣用代码实现「冰雪奇缘」后，自己陷入了深深的自卑，如何排解这种情绪？
神经网络中的能量函数是如何定义的？
计算机视觉有多少分支？
有多少个数学家叫 Kolmogorov ?
Python 如何画出漂亮的地图？
为什么deep lab v3起，输出不再接 DenseCRF了？
如何评价MXNet发布的1.0版本？
AI领域的灌水之风如何破局？
如何评价周志华教授新提出的 Deep Forest 模型，它会取代当前火热的深度学习 DNN 吗？
如何评价《Science》封面文章《通过概率规划归纳的人类层次概念学习》?
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
深度学习attention机制中的Q,K,V分别是从哪来的？
如何看待 NIPS 2018 submission达到近 5000 篇？
当初的生物热，和如今的全民CS全民AI，让你想到了什么？
请问应该怎样去学习图像识别和深度学习？
如何理解Inductive bias？
如果有第谷的数据，现在的机器学习，深度学习有办法学出开普勒三定律吗？
请问一下，机器学习领域的联邦学习技术，目前看到最多的是微众银行，国内还有哪些顶级专家及机构和大学？
xgboost原理？
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
是不是机器学习的框架都偏向 Python ？如果是，为什么？
如何评价DeepMind新提出的MuZero算法？
如何理解深度学习中的deconvolution networks？
如何评价 DeepMind 在星际中的失利，以及 OpenAI 在 Dota 上的成功？
人工智能就业前景越来越严峻了，你还在坚持吗？
人工智能已在哪些领域超越了人类的表现？
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
正负样本极不平衡的问题？
在NLP当中，不同的评价指标，BLEU, METEOR, ROUGE和CIDEr的逻辑意义？