百科问答小站 logo
百科问答小站 font logo



Word2vec 翻译到另一种语言,其向量空间之间的映射会不会是线性的? 第1页

  

user avatar   atom-native 网友的相关建议: 
      

没有完全理解题主想要问什么,如果使用同样的mapping(脱离上下文),那源端语言的一个单词怎样得到目标端语言的不同单词。

你所说的语言之间的映射,取决于语言之间的相似程度,大部分时候都不是线性的。直观上来说,很多中文/英文词都没有对应的翻译,说明他们在各自的语义空间里的分布是不完全相似的(比如,presentation就很难找一个贴切的中文翻译)。但是用线性关系去近似不同语言之间的embedding是比较方便的,同时,虽然整个embedding space可能没有线性映射关系,但是不妨碍局部存在线性映射(e.g. anchor words)。

比如Adversarial Training for Unsupervised Bilingual Lexicon Induction 里的猫马猪(英西)

Unsupervised Alignment of Embeddings with Wasserstein Procrustes里面的水空气土地(英法)

Learning bilingual word embeddings with (almost) no bilingual data 里面的数字


数字好处在于语义明确,通用性强,缺点是样本少。用字典的好处在于样本多,缺点是可能会在通用性上有一定的妥协,同时对于很多语言可能没有办法构造足够多的平行语料对,Word Translation without Parallel Data里面的CSLS一定程度上缓解了对于语言相似性和平行语料的依赖。


当然了,语言自身也是会不断演化的,选用词向量的时候,也要考虑历史的进程(雾

如果你要用的是基于上下文的表示/内容的表示的话,某种程度上已经超出了word embedding的范畴了,不妨考虑一下BERT。


仅为抛砖引玉




  

相关话题

  深度学习应用在哪些领域让你觉得「我去,这也能行!」? 
  多模态训练,怎么解决不同模态之间差异的问题? 
  线性代数从矩阵和行列式入门真的是最恰当的学习方法吗? 
  如何评价openai的新工作DALL·E? 
  目标检测算法中Two-stage算法速度慢,到底在哪里? 
  简单解释一下sparse autoencoder, sparse coding和restricted boltzmann machine的关系? 
  当前深度学习理论基础薄弱是否意味着我们应该放弃深度学习应用(计算机视觉、自然语言处理)? 
  深度学习工作站中使用AMD的CPU会有问题吗? 
  god bless us 为什么百度翻译是辛巴? 
  本科数学,目前在读计算机研一,毕业的时候想要应聘数据挖掘工程师,看了对数据挖掘工程师的招聘要求,感觉太宽泛了,希望能具体说一下现在应该准备哪些知识(算法?编程语言?其他?),谢谢! 

前一个讨论
如果李云龙成为五代火影,会怎样?
下一个讨论
如何理解分形的维度?





© 2025-01-03 - tinynew.org. All Rights Reserved.
© 2025-01-03 - tinynew.org. 保留所有权利