百科问答小站 logo
百科问答小站 font logo



如何看待Capsule Network在NLP领域的潜力? 第1页

  

user avatar   su-jian-lin-22 网友的相关建议: 
      

个人认为,Capsule在NLP中的应用事实上比CV更自然。

Capsule用向量来表示一个特征,使得特征表达更丰富,这其实对应了NLP中用词向量来代替one hot来表示一个词的方案。

事实上,在Word Embedding之后,接一个参数共享版的Capsule Layer用来做文本分类,效果往往还能比肩LSTM/CNN的分类模型。

Capsule退热的原因,不是Capsule真的要衰落了,而是:1、理解Capsule本身就有难度,这个门槛已经筛掉一大批所谓的做深度学习的人了;2、Capsule本身有很多细节没想清楚,比如目前是引入了聚类思路来对特征进行抽象,那如何引入自适应的聚类方法呢?做Capsule的人可能都去想这些问题了。也许解决了这些问题,就是Capsule遍地开花的时候了。


硬广告:

揭开迷雾,来一顿美味的Capsule盛宴 - 科学空间|Scientific Spaces

再来一顿贺岁宴:从K-Means到Capsule - 科学空间|Scientific Spaces

三味Capsule:矩阵Capsule与EM路由 - 科学空间|Scientific Spaces




  

相关话题

  无人驾驶多久可以在同场竞技中超越F1赛车手? 
  为什么相比于计算机视觉(cv),自然语言处理(nlp)领域的发展要缓慢? 
  自学深度学习是怎样一种体验? 
  人工智能被高估了吗? 
  如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper? 
  应届硕士毕业生如何拿到知名互联网公司算法岗(机器学习、数据挖掘、深度学习) offer? 
  如何理解MCMC中的细致平稳条件? 
  如何看待鄂维南院士等发起的机器学习联合研讨计划(c2sml.cn)? 
  如果你是图灵测试者,你会问机器什么问题? 
  transformer 为什么使用 layer normalization,而不是其他的归一化方法? 

前一个讨论
有哪些「人不可貌相」的事情?
下一个讨论
为什么现在的人很轻松就能掌握几百几千年前顶尖数学家才能掌握的知识?





© 2024-05-17 - tinynew.org. All Rights Reserved.
© 2024-05-17 - tinynew.org. 保留所有权利