BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
如果用机器学习的理论来理解人的行为，会有什么发现？BERT可以用于文本聚类吗?
如何用一句话证明自然语言处理很难？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
国内外厂商发布的各类 AI 智能音箱，优缺点分别是什么？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
为什么 Siri 听懂了我的话，还是不能做出有效的回答或准确的操作？
深度学习与机器学习的关系是什么？
如何看待FAIR提出的8-bit optimizer：效果和32-bit optimizer相当？
为什么nlp没有像cv四小龙一样的创业公司？
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？如何评价剑桥，腾讯， DeepMind以及港大团队新作 SimCTG ?
单bert可以用来做文本相似度计算任务吗？
如何看待2021年哔哩哔哩拜年纪采用机器生成的假弹幕？
实体提取任务中使用BERT-CRF时，CRF根据数据统计可以得到转移概率，为啥还要训练呢？
BERT可以用于文本聚类吗?
深度学习应用在哪些领域让你觉得「我去，这也能行！」？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
如何评价 2015 版的 Magi 搜索引擎？
word2vec 相比之前的 Word Embedding 方法好在什么地方？
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？
多模态方面，有哪些牛组值得我们follow他们的工作？
word2vec 相比之前的 Word Embedding 方法好在什么地方？
NLP领域，你推荐哪些综述性的文章？
transformer 为什么使用 layer normalization，而不是其他的归一化方法？
如何评价FAIR提出的MaskFeat：一种适用图像和视频分类的自监督学习方法？
请问刘知远老师提供的网易新闻标注数据集开源吗？
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
工作之后，顶会还重要吗？
如果推出一款有「滤镜」功能的写作软件，修饰平庸的文字，会有市场吗？
如何评价微软机器翻译在 WMT2017 中英翻译达到「人类水平」？
如何理解Inductive bias？
如果用机器学习的理论来理解人的行为，会有什么发现？
现在的BERT等语言模型，最快训练要多久？
NLP文本匹配问题的本质是不是 对于要预测的句子，遍历候选句子 从训练数据集里寻找最相似的pair？
有哪些深度学习效果不如传统方法的经典案例？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
Pytorch有什么节省显存的小技巧？
什么是狄利克雷分布？狄利克雷过程又是什么？
为什么 Bert 的三个 Embedding 可以进行相加？