BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
NLP领域，你推荐哪些综述性的文章？如何评价Hinton组的新工作SimCLR?
为什么nlp没有像cv四小龙一样的创业公司？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
AI领域的灌水之风如何破局？
如果推出一款有「滤镜」功能的写作软件，修饰平庸的文字，会有市场吗？
BERT可以用于文本聚类吗?
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
知识图谱+nlp，有什么适合硕士独自研究的方向？
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
为什么Transformer适合做多模态任务？请问有哪些法律和计算机领域结合的例子？
word2vec 相比之前的 Word Embedding 方法好在什么地方？
为什么编程语言语法的设计不往缩小与自然语言的差别的方向发展，或者说在这个方向发展得这么慢呢？
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
如何看待2021年秋招算法岗灰飞烟灭？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
如何评价微软提出的无监督视觉模型BEiT：ImageNet达到88.6，ADE20K达到57.0？
如何评价 2015 版的 Magi 搜索引擎？
BERT可以用于文本聚类吗?
自然语言处理是计算机实现通用人工智能的最难挑战吗？
BERT可以用于文本聚类吗?
adversarial training为什么会起作用？
如何用自然语言处理判断一句话是否符合中文口语习惯？
2020年，多标签学习（multi-label）有了哪些新的进展？
AI领域的灌水之风如何破局？
BERT可以用于文本聚类吗?
如何看待微软小冰写的诗？
如何看待2021年秋招算法岗灰飞烟灭？
为什么Transformer要用LayerNorm？
如何评价微软亚洲研究院提出的LightRNN？
什么是无监督学习？
NLP文本分类的本质是不是其实是找相似，对于要分类的句子，在训练集里找最相似的句子？
为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕？
如何评价Kaiming He的Momentum Contrast for Unsupervised?
如何评价Kaiming He团队的MoCo v3？
为什么 Bert 的三个 Embedding 可以进行相加？
预训练模型的训练任务在 MLM 之外还有哪些有效方式？
如何评价Kaiming He的Momentum Contrast for Unsupervised?
目前（2017年）机器阅读技术发展得如何？能达到什么水平？有哪些应用？