百科问答小站 logo
百科问答小站 font logo



神经网络训练多个epoch,写论文的时候可以取最好的效果那一个epoch作为结果吗? 第1页

  

user avatar   rewrgf 网友的相关建议: 
      

见到paper实验里写的这种,无论他其他的部分写的多好,反正我看到了就会给打个strong reject。

因为这属于学术不端,本质上是information leaking,相当于在得到结果的时候预先使用了test set的信息。在你得到训练好的模型之前,你是不允许使用test set的任何信息的。(当然把test set accuracy 在代码里打印出来其实是可以的,但你要确保这个信息绝不参与对训练好的模型的选择)你都能在训练过程中找到”test set表现最好的那个epoch"了,这和直接把test set加入train set得到一个overfit的东西,有什么区别呢?

正确的做法是使用validation set上表现最好的那个epoch,放到test set上去看结果。


user avatar   ZhengPeng7 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。




  

相关话题

  sci-hub.ac 已无法使用,如何获取新的网址? 
  现在的人工智能是否走上了数学的极端? 
  如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作? 
  英文差怎么写sci? 
  AMD的CPU是否适合搭建深度学习主机? 
  神经网络中,bias有什么用,为什么要设置bias,当加权和大于某值时,激活才有意义? 
  当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)? 
  为什么我用相同的模型,数据,超参,随机种子,在两台服务器会得到不同的结果? 
  如何进行图像模糊与清晰的分类? 
  如何看待李沐老师提出的「用随机梯度下降来优化人生」? 

前一个讨论
如何评价清华大学电子系大一暑假小学期总共 9 个学时的 Python 课程大作业难度?
下一个讨论
如何评价东奥决赛选手若因阳性弃权可获银牌,这规则你支持吗?





© 2025-02-07 - tinynew.org. All Rights Reserved.
© 2025-02-07 - tinynew.org. 保留所有权利