BERT可以用于文本聚类吗? 第1页
1
ceng-guan-rong-72 网友的相关建议:
可以，但是不容易。
得弄清聚类的目标是什么。
众所周知聚类本身是不定项的，于是要把握你的聚类方向，只能靠特征。
聚类所用的特征或者信息是否有与你的聚类目标有关，有没有，有多少，和够不够，另外有多少背离或者影响你的聚类目标。
那么问题来了，bert做向量，聚出来的是啥，心里有数吗，是话题领域？语言风格？还是时间年代？不好说啊。
因此，哪怕是聚类，定义一下你的聚类目标，根据目标设计一些数据集和下游方案，整点finetuning或者套个submodel训一下，再不行加点人工特征，可能更好。
1
相关话题
2022 年人工智能领域的发展趋势是什么？你都有哪些期待？2022 年人工智能领域的发展趋势是什么？你都有哪些期待？
nlp有哪些值得完整实现一遍的算法?
现在的BERT等语言模型，最快训练要多久？
有哪些人工智能上的事实，没有一定人工智能知识的人不会相信？
请问刘知远老师提供的网易新闻标注数据集开源吗？
如何评价 BERT 模型？
NLP 中 prompt learning 有哪些可能的天生缺陷？目前有什么样的方法来解决这样的缺陷？
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？
什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？
前一个讨论
自然语言处理方向研究生好找工作吗？
下一个讨论
大学时在学科排名 A+ 的学院就读是什么体验？
相关的话题
Transformer是如何处理可变长度数据的？为什么nlp没有像cv四小龙一样的创业公司？
国内 top2 高校研一在读，为什么感觉深度学习越学越懵?
如何评价Google最新提出的gMLP：MLP模型在CV和NLP任务上均取得较好的效果？
深度学习应用在哪些领域让你觉得「我去，这也能行！」？
为什么Transformer要用LayerNorm？
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
Partial Multi-Label Learning是什么？它的发展史又是怎样的？最新的进展如何？
2021年人工智能领域有哪些关键性进展和突破？
单bert可以用来做文本相似度计算任务吗？
word2vec 相比之前的 Word Embedding 方法好在什么地方？
多模态方面，有哪些牛组值得我们follow他们的工作？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
如何用自然语言处理判断一句话是否符合中文口语习惯？
预训练模型的训练任务在 MLM 之外还有哪些有效方式？
研究推荐系统要对NLP很了解吗？
为什么中文 NLP 数据集这么少？
准研一，导师NLP方向，导师接下了一个项目让我跟着手工标数据，请问是不是在PUA我?
2021 年，深度学习方面取得了哪些关键性进展？
如何看待2021年秋招算法岗灰飞烟灭？
如何评价1700亿参数的GPT-3？
有监督和无监督学习都各有哪些有名的算法和深度学习？
如何看待学霸君的高考机器人 Aidam 高考全国文科数学卷考了 134 分？
如何评价浪潮发布的2457亿参数源1.0智能大模型？与GPT-3相比如何？处于AI模型领域什么水平？
国内外厂商发布的各类 AI 智能音箱，优缺点分别是什么？
为什么 BERT 的 intermediate_size 这么大？
AI 都学会看论文了，科研工作者会被淘汰么？
为什么 Siri 听懂了我的话，还是不能做出有效的回答或准确的操作？
做中文 NLP 的时候，大家为啥不用拼音？
如何评价浪潮发布的2457亿参数源1.0智能大模型？与GPT-3相比如何？处于AI模型领域什么水平？