百科问答小站 logo
百科问答小站 font logo



如何看待Capsule Network在NLP领域的潜力? 第1页

  

user avatar   su-jian-lin-22 网友的相关建议: 
      

个人认为,Capsule在NLP中的应用事实上比CV更自然。

Capsule用向量来表示一个特征,使得特征表达更丰富,这其实对应了NLP中用词向量来代替one hot来表示一个词的方案。

事实上,在Word Embedding之后,接一个参数共享版的Capsule Layer用来做文本分类,效果往往还能比肩LSTM/CNN的分类模型。

Capsule退热的原因,不是Capsule真的要衰落了,而是:1、理解Capsule本身就有难度,这个门槛已经筛掉一大批所谓的做深度学习的人了;2、Capsule本身有很多细节没想清楚,比如目前是引入了聚类思路来对特征进行抽象,那如何引入自适应的聚类方法呢?做Capsule的人可能都去想这些问题了。也许解决了这些问题,就是Capsule遍地开花的时候了。


硬广告:

揭开迷雾,来一顿美味的Capsule盛宴 - 科学空间|Scientific Spaces

再来一顿贺岁宴:从K-Means到Capsule - 科学空间|Scientific Spaces

三味Capsule:矩阵Capsule与EM路由 - 科学空间|Scientific Spaces




  

相关话题

  如何看待2016年3月柯洁表示 AlphaGo「赢不了我」? 
  如何将某个分布作为机器学习的特征? 
  在元宇宙世界中,我要怎么证明「我是我」? 
  如果推出一款有「滤镜」功能的写作软件,修饰平庸的文字,会有市场吗? 
  人工智能,深度学习,是不是继生化环材之后的第五天坑? 
  主动学习(Active Learning)近几年的研究有哪些进展,现在有哪些代表性成果? 
  有哪些人工智能上的事实,没有一定人工智能知识的人不会相信? 
  为什么 VR 始终不能崛起呢? 
  如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper? 
  在NLP上,CNN、RNN(认为LSTM等变体也是RNN)、最简单全连结MLP,三者相比,各有何优劣? 

前一个讨论
有哪些「人不可貌相」的事情?
下一个讨论
为什么现在的人很轻松就能掌握几百几千年前顶尖数学家才能掌握的知识?





© 2024-06-14 - tinynew.org. All Rights Reserved.
© 2024-06-14 - tinynew.org. 保留所有权利