pytorch 分布式计算 你们都遇到过哪些 坑/bug？ 第1页
1
fan-ru-chao 网友的相关建议:
说下我之前遇到的坑，如果是用pytorch实现同步梯度更新，然后数据接口是自己写的话一定要注意保证每张卡分配的batch数是一样的。因为如果某张卡少了一个batch的话，其他卡就会等待，从而程序卡在torch.all_reduce()上。最后的情况就会出现在第一个epoch结尾处程序卡住，而且没有报错信息。
当时调了半天，一度以为是pytorch的某种bug，最后检查数据接口才发现了这个小错误。
1
相关话题
2021年，ncnn发展的如何了？强化学习和自适应控制的关系是什么？
为什么计算注意力机制的时候不加偏置项？
adversarial training为什么会起作用？
GAN的生成器是怎么产生图片的？
如何评价AlphaGo Zero？
把某人的 DNA 序列作为输入，正面照片作为输出，丢到深度神经网络里面学习，可行吗？
如何评价Kaiming He的Momentum Contrast for Unsupervised?
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
对于多指标评价，BP神经网络评价和TOPSIS有什么区别呢？
前一个讨论
怎样理解阻塞非阻塞与同步异步的区别？
下一个讨论
国内做NLP业务的香侬科技值得去吗？
相关的话题
如果人工智能迎来下一个寒冬，你认为会是卡在什么问题上？人是如何做黑盒优化的？
深度学习cnn中，怎么理解图像进行池化（pooling）后的平移不变性？
word2vec有什么应用？
人是如何做黑盒优化的？
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
无人车为什么一定要用激光雷达做，双目视觉难道不行吗？
如何评价MSRA最新的 Relation Networks for Object Detection？
scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
对于神经网络，硕士博士不需要弄明白原理，只需要应用，是这样吗？
人工智能退潮期来了吗？
如何评价1700亿参数的GPT-3？
如何评价 DeepMind 发表在 Nature 的论文公开无需人类棋谱的 AlphaGo Zero？
自学深度学习是怎样一种体验？
现在的BERT等语言模型，最快训练要多久？
如果有第谷的数据，现在的机器学习，深度学习有办法学出开普勒三定律吗？
为什么神经网络具有泛化能力？
如何评价 PyTorch 团队推出的推荐系统库 TorchRec？
如何评价沐神他们写的《动手学深度学习》这本书？
有哪些深度学习效果不如传统方法的经典案例？
如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」？
深度学习到底是「实验科学」还是「理论科学」？能否称为「算法」？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？
有哪些相见恨晚的 TensorFlow 小技巧？
人工智能领域有哪些精妙的数学原理？
为什么做GPU计算，深度学习用amd显卡的很少，基本都nvidia？
adversarial training为什么会起作用？
如何看待timm作者发布ResNet新基准：ResNet50提至80.4，这对后续研究会带来哪些影响？
什么时候对数据进行[0,1]归一化，什么时候[-1,1]归一化，二者分别在什么场景？
深度学习cnn中，怎么理解图像进行池化（pooling）后的平移不变性？