神经网络，分类和回归问题，在网络结构上的区别是什么？分类比回归多一层softmax吗？诚心求教？ 第1页
1
huo-hua-de-41 网友的相关建议:
感觉现在已有的回答还没说到点上。例如，0-1的回归，我把0-1分成100个bin，每0.01当作一个类，然后用变成100类的分类任务，是不是就只是精度差异呢？进一步可以衍生几个问题：
- 为什么回归任务常使用mse作为损失函数？
- 为什么分类任务常用交叉熵作为损失函数?
首先，我们要知道，使用特定损失函数的前提是我们对标签的分布进行了某种假设。
二分类问题的常见假设就是标签服从伯努利分布，多分类问题背后的假设是多项分布（Multinomial Distribution）。根据数据分布，结合最大似然估计，就可以推导出交叉墒的公式。
同样的，回归问题背后的假设是标签服从正态分布，这时候根据数据分布，结合最大似然估计，就可以推导出mse的公式。
然后实际问题中，我们遇到的标签不一定真的服从正态分布。根据样本分布不同，大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多，只是抛砖引玉，详细的推到大家可以看看 @马东什么 的文章
1
相关话题
为什么都说神经网络是个黑箱？你见过最差的算法工程师能差到什么程度？
2017年1月18日Facebook发行的PyTorch相比TensorFlow、MXNet有何优势？
用生成模型做数据增强data augmentation时，如何从合成数据中筛选出质量较好的样本？
梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？
特征工程中的「归一化」有什么作用？
是不是并不是所有问题都适合用神经网络预测？
人工智能 CV 岗位是不是现在供严重大于需？
神经网络中，bias有什么用，为什么要设置bias，当加权和大于某值时，激活才有意义？
《失控玩家》中的游戏有可能实现出来吗？
相关的话题
如何评价谷歌刚推出的Cloud AutoML？你遇见过什么当时很有潜力但是最终没有流行的深度学习算法?
为什么计算机科学专业背景的人喜欢黑机器学习？
为什么计算机科学专业背景的人喜欢黑机器学习？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
GAN的生成器是怎么产生图片的？
为何总感觉人工智能和神经科学（神经网络）被绑在一起？
为什么谈论深度学习工具时，很少有人讨论matlab的神经网络工具包？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
GAN的生成器是怎么产生图片的？
Logistic 回归模型的参数估计为什么不能采用最小二乘法？
为啥gan里面几乎不用pooling？
机器学习中的机器是如何分辨哪些是有用的知识，哪些是没用的信息呢？
ICLR 2019 有什么值得关注的亮点？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
如何看待斯坦福博士生2prime陆一平关于新冠起源的一系列言论？
未来五年，数据科学家（Data Scientist）的岗位需求会如何变化？
未来十年，AI 将可能与哪些产业结合应用？产生怎样的价值？
能分享你收藏的国外AI talk, seminar平台或网站吗？
如何看待谷歌研究人员提出的卷积正则化方法「DropBlock」？
有哪些优秀的深度学习入门书籍？需要先学习机器学习吗？
人工智能 CV 岗位是不是现在供严重大于需？
在统计学领域有哪些经典奠基性的论文？
我们目前的时代距离人工智能具有自我意识还有多远？
如何评价FAIR团队最新推出的RegNet？
多任务学习成功的原因是引入了别的数据库还是多任务框架本身呢？
领域自适应需要用到测试集数据，这样的方法有啥意义呢？
adversarial training为什么会起作用？
如何看待 Uber 发生全球首例自动驾驶致死事件？
如何理解深度学习源码里经常出现的logits？