请问下大家训练 SimCSE 时, loss 有没有这样的情况? 第1页
1
qiu-ming-shan-lao-si-ji-2-9 网友的相关建议:
谢邀
我才刚大二，不搞深度学习呀(｡•́︿•̀｡)
1
相关话题
如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」？为什么计算注意力机制的时候不加偏置项？
如何看待Capsule Network在NLP领域的潜力？
深度神经网络（DNN）是否模拟了人类大脑皮层结构？
Facebook 的人工智能实验室 (FAIR) 有哪些厉害的大牛和技术积累？
深度学习底层开发对数学有哪些要求？
NLP文本分类的本质是不是其实是找相似，对于要分类的句子，在训练集里找最相似的句子？
wasserstein 距离的问题?
2021年了，如何评价微软亚研提出的对偶学习（Dual Learning）？
是不是并不是所有问题都适合用神经网络预测？
前一个讨论
被跳蚤咬的全身都是包是什么样的感受！？！？
下一个讨论
2024年的出生人口会是多少？
相关的话题
如何评价 On Unifying Deep Generative Models 这篇 paper?物理专业的学生如何看待机器学习和大数据这些方向呢？
算法岗位真的需要顶会才能入场吗？
究竟什么是损失函数 loss function?
国内较强的NLP高校实验室有哪些？
请问刘知远老师提供的网易新闻标注数据集开源吗？
为什么最近几年 FPGA 变得越发受大家重视了？
ICLR 2019 有什么值得关注的亮点？
有没有必要把机器学习算法自己实现一遍？
如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？
TensorFlow的自动求导具体是在哪部分代码里实现的？
如何看待微软小冰写的诗？
pytorch 分布式计算 你们都遇到过哪些 坑/bug？
如何评价最近火热的对比学习，会引领预训练模型新的范式嘛?
LSTM如何来避免梯度弥散和梯度爆炸？
如何评价Hinton组的新工作SimCLR?
神经网络为什么可以（理论上）拟合任何函数？
如何开发一个自己的 TensorFlow？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
大家用resnet50在imagenet上面top1最高能到多少？
如何评价openai的新工作DALL·E?
OpenAI 发布文字生成图像工具 DALL·E 2，它的画作水平如何？从技术角度如何评价它的能力？
KL散度衡量的是两个概率分布的距离吗？
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
机器学习包含哪些学习思想？
自然语言处理是计算机实现通用人工智能的最难挑战吗？
Bert中的词向量各向异性具体什么意思啊？
NLP领域，你推荐哪些综述性的文章？
如果你是面试官，你怎么去判断一个面试者的深度学习水平？
如何评价微软亚研院提出的把 Transformer 提升到了 1000 层的 DeepNet？