卷积神经网络中卷积核是如何学习到特征的？ 第1页
1
liustein 网友的相关建议:
保证不了，所以要高度过参数化，保证有大量的种子选手可供选择，最后总会有幸运儿学到特征。
所以参数对初始化非常敏感，重新初始化一下，网络内部结构会完全改变。这个就类似于蝴蝶效应，有一个卷积核向某个方向略偏了一下，结果正好撞上了狗屎运（梯度），居然恰好在对的位置，能获得越来越多的运气（梯度），学到的这个特征就会越来越肯定。
这也是为什么，训练好的神经网络，有用的部分不多，有用的部分只是因为运气好。而没有被梯度之神选中的牺牲品，如果一开始没得到梯度，就成了弃子了，之后就永远都得不到了！
梯度，永远滴神。 ——知乎 @霍华德
1
相关话题
能否对卷积神经网络工作原理做一个直观的解释？硕士方向，选择迁移学习还是自然语言处理？
如何评价Hinton在加拿大多伦多大学关于用“capsule”作为下一代CNN的演讲？
目前有哪些比较成功的人工智能应用？
如何评价谷歌大脑的EfficientNet？
深度学习图像处理什么时候用到GPU？
低分辨率图像相对于高分辨率图像在CNN中缺失了哪些特征？
神经网络为什么可以（理论上）拟合任何函数？
nlp有哪些值得完整实现一遍的算法?
为什么yolov5从零开始训练（不在ImageNet上预训练）能够达到如此高的性能？
前一个讨论
工作之后，顶会还重要吗？
相关的话题
如何评价谷歌大脑的EfficientNet？你见过最差的算法工程师能差到什么程度？
batchsize=1时可以用BN吗?
如何理解MCMC中的细致平稳条件？
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
2020到2021年小样本学习取得重大进展了吗？
能否把一个人的所有物理数据输入在一个模型里，然后计算他接下来的状态变化？
人工智能可以解决人类难题吗？
如何用FPGA加速卷积神经网络(CNN)？
请问人工神经网络中的activation function的作用具体是什么？为什么ReLu要好过于tanh和sigmoid function?
NLP文本分类的本质是不是其实是找相似，对于要分类的句子，在训练集里找最相似的句子？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？
人工智能会是泡沫吗？
如何评价微软亚洲研究院提出的LightRNN？
大家推荐一下，哪些学校的导师有在做量化交易、股票预测的？
AlphaGo 与李世石的对战会推动人类的极限还是机器学习的进步和觉醒？
Domain Adaptation学术上有哪些方向，还有哪些可做的地方？
现在互联网公司还有做特征工程的工作吗？
科研时，想到一个idea，其实现的结果一定要比前人的评估指标高才能发表吗？
2019年CVPR有哪些糟糕的论文?
你见过最差的算法工程师能差到什么程度？
消融实验是什么？
如何进行图像模糊与清晰的分类？
谈谈机器学习在网络安全领域的局限性，以及是否乐观？
如何评价剑桥，腾讯， DeepMind以及港大团队新作 SimCTG ?
DL框架的未来发展，TensorFlow/MXNet/PyTorch, 选哪个？
如何理解深度学习源码里经常出现的logits？
物理专业的学生如何看待机器学习和大数据这些方向呢？
如何理解MCMC中的细致平稳条件？