计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
在你做推荐系统的过程中都遇到过什么坑？scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
学生网络用知识蒸馏损失去逼近教师网络，如何提高学生网络的准确率？
深度学习方面还有什么Open Problem?
为什么说深度学习没有理论基础?
请解释下variational inference？
如何解读「量子计算应对大数据挑战：中国科大首次实现量子机器学习算法」？
如何评价 DeepMind 新提出的关系网络（Relation Network）？
如何看待AI伦理科学家Timnit Gebru在邮件控诉谷歌缺乏种族多样性后被Jeff Dean炒掉？
如何评价Momenta ImageNet 2017夺冠架构SENet?
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
推荐系统应该如何保障推荐的多样性？如何看待Capsule Network在NLP领域的潜力？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
如何评价FAIR提出的ConvNeXt：CNN匹敌Swin Transformer?
如何看待 2014 年以来计算机视觉（Computer Vision）界创业潮？
为什么推荐系统要推荐用户喜欢的东西？
有监督和无监督学习都各有哪些有名的算法和深度学习？
国内 top2 高校研一在读，为什么感觉深度学习越学越懵?
如何看待swin transformer成为ICCV2021的 best paper？
实验室一块GPU都没有怎么做深度学习？
如何看待Capsule Network在NLP领域的潜力？
计算统计学（Computational Statistics）有什么好的资源和教材以及学习方法推荐？
土木和机器学习/深度学习/算法的交叉岗位在哪里找呀？ 在哪找都找不到招聘公司?
研一刚入学，从未接触过神经网络，python也是才开始学，现在导师要我做LSTM，我应该去学什么？
实验室一块GPU都没有怎么做深度学习？
当前（2020年）机器学习中有哪些研究方向特别的坑？
2021年了，机器学习有什么高质量的专著?
nlp有哪些值得完整实现一遍的算法?
如何看待与评价 AAAI 2022 的录用结果？
为什么 MobileNet、ShuffleNet 在理论上速度很快，工程上并没有特别大的提升？
如何评价mixup: BEYOND EMPIRICAL RISK MINIMIZATION？
为什么神经网络具有泛化能力？
如果有第谷的数据，现在的机器学习，深度学习有办法学出开普勒三定律吗？
scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
什么是主动学习（Active Learning, AL）？
新手如何入门pytorch？
现在的人工智能是否走上了数学的极端？
时间序列数据上可以抽取哪些频域特征？
主动学习（Active Learning）近几年的研究有哪些进展，现在有哪些代表性成果？
基于计算机视觉从一张图片重建人体的三维网格，能否获取腰围、胸围、臂长、腿长等数据？