计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
基于深度卷积神经网络进行人脸识别的原理是什么？如何评价阿里巴巴启动NASA计划？
数字图像处理的工作是用传统算法更多还是用深度学习更多?
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
神经网络的万能逼近定理已经发展到什么地步了？
默写很花时间怎么办？
如何评价 On Unifying Deep Generative Models 这篇 paper?
如何评价微软机器翻译在 WMT2017 中英翻译达到「人类水平」？
如何看待 Google 围棋 AI AlphaGo 击败欧洲围棋冠军？
如何评价英伟达于 GTC 2021 大会发布的基于 ARM 架构的 Grace CPU？
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
现在的人工智能是否走上了数学的极端？当前（2020年）机器学习中有哪些研究方向特别的坑？
除了深度学习，机器学习领域近年来还有什么热点吗？
学习python中的pandas有没有好的教程推荐？
如何看待End-to-End Object Detection with Transformers？
为什么 Bert 的三个 Embedding 可以进行相加？
27岁了跨考计算机研究生会不会太晚？
为什么 BERT 的 intermediate_size 这么大？
人们是如何想到奇异值分解的？
在集成电路设计领域（数字，模拟），人工智能有无可能取代人类？
如何评价 DeepMind 发表在 Nature 的论文公开无需人类棋谱的 AlphaGo Zero？
AI 有可能代替人类从事数学研究吗？
DL/ML 模型如何部署到生产环境中？
image caption这个方向更偏向NLP还是CV？
生成对抗网络的毕设怎么上手？
深度学习方面还有什么Open Problem?
如何评价ST-GCN动作识别算法？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
如何评价 DeepMind 在星际中的失利，以及 OpenAI 在 Dota 上的成功？
机器学习为生物学和医学研究带来了哪些改变？能解决哪些医学难题？
你所在的研究领域里，有哪些工作的结果虽然不是造假，但是是精挑细选出来的?
为什么中文 NLP 数据集这么少？
学习人工智能，术语看不懂怎么办？
Learning To Rank的pair wise方法如何得到全局排序结果呢？
魔鬼如何在最短时间内抓住天使？
如何看待知乎的AI答主「四十二」？人工智能有可能理解生命的意义是什么吗？
如何评价余凯在朋友圈发表呼吁大家用 caffe、mxnet 等框架，避免使用 TensorFlow？
请问下大家训练 SimCSE 时, loss 有没有这样的情况?
相比于时下流行的机器学习方法（联接主义），传统的人工智能方法（符号主义）有什么独一无二的优势？
神经网络能否代替决策树算法？