能盯着loss看一个小时,想象自己就是搜索点。
然后幻想自己是个游戏里的小人在山谷里摸索,到处都是战争迷雾,我的视野还特别小。
看到带周期波动的下降就会感觉自己在一个圆筒的滑梯里忽左忽右的出溜。
看到上升就会突然紧张,再瞄一下acc比较train和val,像一个赌徒企图从绝望中看到希望。loss再度下降时会产生强烈的快感,觉得艰难地翻过了一座小山。
快要收敛时安慰自己,前方还会有深渊。
最后收敛时告诉自己,就是这里了,我累了。
然后休息一下,分析分析,终于决定:
算了再加一层吧……