百科问答小站 logo
百科问答小站 font logo



神经网络训练多个epoch,写论文的时候可以取最好的效果那一个epoch作为结果吗? 第1页

  

user avatar   rewrgf 网友的相关建议: 
      

见到paper实验里写的这种,无论他其他的部分写的多好,反正我看到了就会给打个strong reject。

因为这属于学术不端,本质上是information leaking,相当于在得到结果的时候预先使用了test set的信息。在你得到训练好的模型之前,你是不允许使用test set的任何信息的。(当然把test set accuracy 在代码里打印出来其实是可以的,但你要确保这个信息绝不参与对训练好的模型的选择)你都能在训练过程中找到”test set表现最好的那个epoch"了,这和直接把test set加入train set得到一个overfit的东西,有什么区别呢?

正确的做法是使用validation set上表现最好的那个epoch,放到test set上去看结果。


user avatar   ZhengPeng7 网友的相关建议: 
      

女王:求求题主放过我,我可不敢有什么政绩。。。




  

相关话题

  计算商品embedding然后平均得到用户embedding,会不会存在这种问题? 
  使用pytorch时,训练集数据太多达到上千万张,Dataloader加载很慢怎么办? 
  计算机视觉(cv)方向今年招聘情况怎么样?是否已经人才过剩? 
  破除“唯SCI”后,领导说院士的三岁小孙子学术影响力比我大咋办? 
  神经网络激活函数的作用和原理?有没有形象解释? 
  深度学习方面的科研工作中的实验代码有什么规范和写作技巧?如何妥善管理实验数据? 
  CVPR 2018 有什么值得关注的亮点? 
  论文中的occlusion是什么意思? 
  实验室一块GPU都没有怎么做深度学习? 
  深度学习两张3080ti和一张3090ti哪个好? 

前一个讨论
如何评价清华大学电子系大一暑假小学期总共 9 个学时的 Python 课程大作业难度?
下一个讨论
如何评价东奥决赛选手若因阳性弃权可获银牌,这规则你支持吗?





© 2024-06-29 - tinynew.org. All Rights Reserved.
© 2024-06-29 - tinynew.org. 保留所有权利