百科问答小站 logo
百科问答小站 font logo



神经网络,分类和回归问题,在网络结构上的区别是什么?分类比回归多一层softmax吗?诚心求教? 第1页

  

user avatar   huo-hua-de-41 网友的相关建议: 
      

感觉现在已有的回答还没说到点上。例如,0-1的回归,我把0-1分成100个bin,每0.01当作一个类,然后用变成100类的分类任务,是不是就只是精度差异呢?进一步可以衍生几个问题:

  • 为什么回归任务常使用mse作为损失函数?
  • 为什么分类任务常用交叉熵作为损失函数?

首先,我们要知道,使用特定损失函数的前提是我们对标签的分布进行了某种假设

二分类问题的常见假设就是标签服从伯努利分布,多分类问题背后的假设是多项分布(Multinomial Distribution)。根据数据分布,结合最大似然估计就可以推导出交叉墒的公式。

同样的,回归问题背后的假设是标签服从正态分布,这时候根据数据分布,结合最大似然估计就可以推导出mse的公式。

然后实际问题中,我们遇到的标签不一定真的服从正态分布。根据样本分布不同,大家还提出了tweedie loss、possion loss等损失函数替代mse。我说这么多,只是抛砖引玉,详细的推到大家可以看看 @马东什么 的文章




  

相关话题

  如何用简单易懂的例子解释条件随机场(CRF)模型?它和HMM有什么区别? 
  精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么? 
  27岁了跨考计算机研究生会不会太晚? 
  是不是机器学习的框架都偏向 Python ?如果是,为什么? 
  如何评价微软新出的自拍软件 Microsoft Selfie? 
  不觉得最大熵原理很奇怪吗? 
  什么是人工智能?人工智能、机器学习、深度学习三者之间有什么关系吗? 
  在哪里能找到各行业的分析研究报告? 
  为什么说股票不能通过机器学习来预测? 
  分类问题的label为啥必须是 one hot 形式? 

前一个讨论
python中[[3,5],[2,3]]怎么转化为[['3','5'],['2','3']]?
下一个讨论
对于智力和勤奋程度都一般的人来说,博士毕业有多难?





© 2025-03-07 - tinynew.org. All Rights Reserved.
© 2025-03-07 - tinynew.org. 保留所有权利