BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?2021 年，深度学习方面取得了哪些关键性进展？
2021 年了，机器/深度学习还有哪些坑比较好挖？
cv/nlp等方向的就业困难是全球性的吗？
如何用一句话证明自然语言处理很难？
BERT可以用于文本聚类吗?
BERT模型可以使用无监督的方法做文本相似度任务吗？
如何评价剑桥，腾讯， DeepMind以及港大团队新作 SimCTG ?
BERT可以用于文本聚类吗?
BERT可以用于文本聚类吗?
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
在文本分类任务中，有哪些论文中很少提及却对性能有重要影响的tricks？单bert可以用来做文本相似度计算任务吗？
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
为什么这么多 NLP 大牛硕士毕业去企业不留在学术界？
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？
cv/nlp等方向的就业困难是全球性的吗？
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
Partial Multi-Label Learning是什么？它的发展史又是怎样的？最新的进展如何？
为什么Transformer适合做多模态任务？
现在的BERT等语言模型，最快训练要多久？
深度学习与机器学习的关系是什么？
BERT可以用于文本聚类吗?
Bert中的词向量各向异性具体什么意思啊？
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
深度学习中，模型大了好还是小了好呢？
如何理解Inductive bias？
现有的编程语言当中，哪些和自然语言更接近？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
adversarial training为什么会起作用？
Transformer中的Mask矩阵已经有顺序了，能去掉position embedding吗?
在文本分类任务中，有哪些论文中很少提及却对性能有重要影响的tricks？
什么是无监督学习？
谷歌翻译原理是什么，从语言A到B，中间是否要翻译成中介语言C（如英语）？
如何用自然语言处理判断一句话是否符合中文口语习惯？
如何看待FAIR提出的8-bit optimizer：效果和32-bit optimizer相当？
2021 年，深度学习方面取得了哪些关键性进展？
多模态方面，有哪些牛组值得我们follow他们的工作？
如何评价Kaiming He团队的MoCo v3？
如何看待多模态transformer，是否会成为多模态领域的主流？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？