BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
准研一，导师NLP方向，导师接下了一个项目让我跟着手工标数据，请问是不是在PUA我?为什么 Siri 听懂了我的话，还是不能做出有效的回答或准确的操作？
没有顶会的CV/NLP方向的博士生毕业出路在哪里？
自然语言处理怎么最快入门？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
深度学习attention机制中的Q,K,V分别是从哪来的？
NLP文本分类的本质是不是其实是找相似，对于要分类的句子，在训练集里找最相似的句子？
BERT可以用于文本聚类吗?
如何评价 2015 版的 Magi 搜索引擎？
为什么编程语言语法的设计不往缩小与自然语言的差别的方向发展，或者说在这个方向发展得这么慢呢？
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？有哪些令你印象深刻的魔改transformer？
2020年，多标签学习（multi-label）有了哪些新的进展？
如何评价微软提出的无监督视觉模型BEiT：ImageNet达到88.6，ADE20K达到57.0？
目前（2017年）机器阅读技术发展得如何？能达到什么水平？有哪些应用？
Bert中的词向量各向异性具体什么意思啊？
如果推出一款有「滤镜」功能的写作软件，修饰平庸的文字，会有市场吗？
深度学习与机器学习的关系是什么？
硕士方向，选择迁移学习还是自然语言处理？
为什么相比于计算机视觉(cv)，自然语言处理(nlp)领域的发展要缓慢？
2020年，多标签学习（multi-label）有了哪些新的进展？
如何用一句话证明自然语言处理很难？
NLP现在就业是否没有前途?
硕士方向，选择迁移学习还是自然语言处理？
如何评价1700亿参数的GPT-3？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
为什么中文 NLP 数据集这么少？
刷leetcode使用python还是c++？
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
adversarial training为什么会起作用？
2021 年，深度学习方面取得了哪些关键性进展？
谷歌翻译原理是什么，从语言A到B，中间是否要翻译成中介语言C（如英语）？
AI领域的灌水之风如何破局？
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
刷leetcode使用python还是c++？
为什么nlp没有像cv四小龙一样的创业公司？
有哪些利用搜索引擎（Search Engine）辅助自然语言处理任务（NLP）的论文？
为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕？
如何看待华为 4 月 25 日发布的盘古智能大模型？在这个行业处于什么水平？
如何评价 Exploring Simple Siamese Learning?