训练过程中loss震荡特别严重，可能是什么问题？ 第1页
1
electricromeo 网友的相关建议:
降一下学习率试试
1
相关话题
实验室一块GPU都没有怎么做深度学习？人工智能在生活中的应用都有哪些？
机器学习中的机器是如何分辨哪些是有用的知识，哪些是没用的信息呢？
如何用一句话证明自然语言处理很难？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
如何评价深度学习相关顶级期刊论文难复现的问题？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
2020到2021年小样本学习取得重大进展了吗？
如何看待何恺明最新一作论文Masked Autoencoders？
如何看待 2014 年以来计算机视觉（Computer Vision）界创业潮？
相关的话题
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?深度学习和强化学习之间的差别有多大？
使用强化学习解决实际问题时常常避不开环境模拟或者使用离线强化学习算法，两者分别有什么优缺点？
有谁照着论文把 AlphaGo 重现出来了？
wav2vec中的30ms是怎么得来的?
如何评价 7 月 31 日一流科技开源的深度学习框架 OneFlow？
能否使用区块链的算力来解决深度学习训练？
把某人的 DNA 序列作为输入，正面照片作为输出，丢到深度神经网络里面学习，可行吗？
结合深度学习的图像修复怎么实现？
如何评价deepmind最新在nature上发表的论文《在人工网络中用网格样表征进行基于向量的导航》？
如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作？
为什么谈论深度学习工具时，很少有人讨论matlab的神经网络工具包？
如果学习从零开始学习Pytorch,有优秀的开源项目可以推荐吗？
如何看待周志华等人的新书《机器学习理论导引》？
如何评价 DeepMind 公布的可生成算法竞赛解题代码的 AlphaCode？
如何看待FAIR提出的8-bit optimizer：效果和32-bit optimizer相当？
机器学习自嘲的炼丹和化学材料自嘲的炒菜有什么本质上的区别？
科研时，想到一个idea，其实现的结果一定要比前人的评估指标高才能发表吗？
如何看待 Google TPU？寒武纪芯片较之有哪些优势与不足？
视觉Transformer如何优雅地避开位置编码？
如何评价Google最新提出的gMLP：MLP模型在CV和NLP任务上均取得较好的效果？
如何评价1700亿参数的GPT-3？
如何评价余凯在朋友圈发表呼吁大家用 caffe、mxnet 等框架，避免使用 TensorFlow？
如何评价何恺明等 arxiv 新作 Rethinking ImageNet Pre-training？
如何评价 DeepMind 发表在 Nature 的论文公开无需人类棋谱的 AlphaGo Zero？
如何评价何恺明、Ross Girshick组的自监督时空表征学习新作？
经过足够长的时间， AlphaGo 的棋谱能收敛到一张上吗？
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
如何评价Google提出的MLP-Mixer：只需要MLP就可以在ImageNet上达到SOTA？
深度学习的多个loss如何平衡？