百科问答小站 logo
百科问答小站 font logo



如何看待Capsule Network在NLP领域的潜力? 第1页

  

user avatar   su-jian-lin-22 网友的相关建议: 
      

个人认为,Capsule在NLP中的应用事实上比CV更自然。

Capsule用向量来表示一个特征,使得特征表达更丰富,这其实对应了NLP中用词向量来代替one hot来表示一个词的方案。

事实上,在Word Embedding之后,接一个参数共享版的Capsule Layer用来做文本分类,效果往往还能比肩LSTM/CNN的分类模型。

Capsule退热的原因,不是Capsule真的要衰落了,而是:1、理解Capsule本身就有难度,这个门槛已经筛掉一大批所谓的做深度学习的人了;2、Capsule本身有很多细节没想清楚,比如目前是引入了聚类思路来对特征进行抽象,那如何引入自适应的聚类方法呢?做Capsule的人可能都去想这些问题了。也许解决了这些问题,就是Capsule遍地开花的时候了。


硬广告:

揭开迷雾,来一顿美味的Capsule盛宴 - 科学空间|Scientific Spaces

再来一顿贺岁宴:从K-Means到Capsule - 科学空间|Scientific Spaces

三味Capsule:矩阵Capsule与EM路由 - 科学空间|Scientific Spaces




  

相关话题

  人工智能在生活中的应用都有哪些? 
  用生成模型做数据增强data augmentation时,如何从合成数据中筛选出质量较好的样本? 
  学生网络用知识蒸馏损失去逼近教师网络,如何提高学生网络的准确率? 
  如何看待大热的人工智能机器人 Sophia? 
  2022 年人工智能领域的发展趋势是什么?你都有哪些期待? 
  为什么人工智能在围棋上几乎击败全人类,仍然不能完全解决交易问题? 
  Auto X的自动驾驶技术用了什么技术? 
  “意识上传”是否可以实现,以什么技术方式实现? 
  神经网络中的能量函数是如何定义的? 
  Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗? 

前一个讨论
有哪些「人不可貌相」的事情?
下一个讨论
为什么现在的人很轻松就能掌握几百几千年前顶尖数学家才能掌握的知识?





© 2024-12-22 - tinynew.org. All Rights Reserved.
© 2024-12-22 - tinynew.org. 保留所有权利