百科问答小站 logo
百科问答小站 font logo



Stein's Paradox 在统计上或者在实际运用中的意义是什么? 第1页

  

user avatar   guo-ni-he 网友的相关建议: 
      

stein的这个结论让人们发现,(在高维问题中,即维数大于等于3)简单地将估计朝原点做shrinkage就能提升预测精度。后面蓬勃发展的统计学习中有一大类方法,其思想根源就是这里,这种方法叫(高维问题中的)正则化。甚至可以说,统计学习本质思想之一的bias-variance tradeoff即发端于此。

事实上,人们后来提出的ridge regression就基于这种方法(甚至可以叫等价)。而在90年代末、20世纪初的十几年时间里涌现的大量正则化方法,如lasso, elastic net等等,虽形不同,但神似之。而如此蓬勃发展的方法的起点,居然是早在1956年。每念及此,都只能由衷赞叹。




  

相关话题

  常用的机器学习算法比较? 
  概率(Probability)的本质是什么? 
  第一类错误和第二类错误的关系是什么? 
  全国范围内出现频率高的街道名都有哪些? 
  这份知乎年龄统计结果,15~25 岁占比 70% 以上,大龄知乎网友都去哪里了? 
  如何用简单的例子解释什么是 Generalized Method of Moments (GMM)? 
  概率论中,为什么XY独立,X²Y²也独立? 
  如何将某个分布作为机器学习的特征? 
  专业的数学家只擅长证明不擅长使用数学吗? 
  因素分析、熵值法的用法区别是什么? 

前一个讨论
抛物线为何属于圆锥曲线?
下一个讨论
已知若干个独立同分布的随机变量之积的分布,如何求单个随机变量的分布?





© 2024-11-22 - tinynew.org. All Rights Reserved.
© 2024-11-22 - tinynew.org. 保留所有权利