百科问答小站 logo
百科问答小站 font logo



在中文 NLP 等论文中,应该如何翻译 token 这个词? 第1页

  

user avatar   zibuyu9 网友的相关建议: 
      

在语言学特定语境下,一般会将 word type 和 word token 做比对,这时候,翻译为 词形 和 词例 比较合适。word type指的是词表中互不相同的单词形态,而word token则是指文本中具体出现的单词。很多NLP论文中说token的时候,大致是指的文本序列中具体出现的那些词,即word token。




  

相关话题

  神经网络中的能量函数是如何定义的? 
  神经网络为什么可以(理论上)拟合任何函数? 
  Transformer在工业界的应用瓶颈如何突破? 
  有哪些你看了以后大呼过瘾的数据分析书? 
  为什么在SGD中使用L1正则化很难获得稀疏性? 
  2021 年了,机器/深度学习还有哪些坑比较好挖? 
  NLP文本匹配问题的本质是不是 对于要预测的句子,遍历候选句子 从训练数据集里寻找最相似的pair? 
  因果推断会是下一个AI热潮吗? 
  人工智能被高估了吗? 
  深度学习attention机制中的Q,K,V分别是从哪来的? 

前一个讨论
穷小孩读博既想在学术上有造诣,又想保底留退路,该如何抉择?
下一个讨论
如何看待 GitHub 新推出的 Large File Storage (LFS)?





© 2025-06-22 - tinynew.org. All Rights Reserved.
© 2025-06-22 - tinynew.org. 保留所有权利