计算商品embedding然后平均得到用户embedding，会不会存在这种问题？ 第1页
1
huo-hua-de-41 网友的相关建议:
问题的本质在于维数诅咒curse of dimensionality，你需要的是一个对于高维向量的正确图景。你想象中的情况是左边2维或者3维的情况，这个时候猫猫狗狗的确是混在一起的，取平均后会有“四不像”的情况。但实际上，embedding都是几百维，是高维向量。每个样本猫或者狗都存在于一个个尖尖上，几个尖尖取平均后，只会依然离这几个尖尖最近，能够保证“四都像”。
chenran 网友的相关建议:
因为在高维空间中的平均，会依然离原来的点特别近，离其他的点特别远？
我们假设这样一个情形，在空间中取4个点{A1..A4}，取平均得A‘可以看作 User Embedding，再在空间中随机生成100个点{B1..B100}。我们计算A' 最近的点是在 {A1..A4} 中还是在 {B1..B100} 中。
在二维空间中特别明显，A‘ 大概率离B点集更近一些。我们跑个模拟，看看随着维度的变高，有什么变化。
可以看到，在低维度的时候，取平均会更像其他的 Item，但随着 Embedding 维度的增加，User Embedding 最近的点几乎全是A集中的点，依然在那几个 Item Embedding 的附近，而离其他的 Embedding 更远一些。
所以并不会是“四不像”，而是“四都像”。高维度和低维度上的直觉有时候很不同罢。
1
相关话题
如何评价何恺明等 arxiv 新作 Rethinking ImageNet Pre-training？为什么图形学的会议siggraph的论文代码很少会开源？好像视觉如CVPR、ICCV开源的更多一些。
如何评价 DeepMind 发表在 Nature 的论文公开无需人类棋谱的 AlphaGo Zero？
如何看待 Nervana 被 Intel 收购？
如何看待指出 神经网络的训练罪魁祸首是退化一文？
除了深度神经网络已经实现的特性以外，大脑还有哪些特性是值得机器学习领域借鉴的？
工程师简历写着「在微软传播性病」，骗过了 90% 公司的机器筛选，机器筛选简历那么不靠谱吗？
训练过程中loss震荡特别严重，可能是什么问题？
如何评价第一局比赛 AlphaGo 战胜李世石？
目标检测算法中Two-stage算法速度慢,到底在哪里?
前一个讨论
机械工程专业为什么要学 C 语言？
下一个讨论
如何自学数学以达到数学博士的水平？
相关的话题
机器学习自嘲的炼丹和化学材料自嘲的炒菜有什么本质上的区别？在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
计算机视觉中，目前有哪些经典的目标跟踪算法？
如何理解attention中的Q,K,V？
如何评价Yann LeCun宣称『他已经做好放弃概率论的准备』？
Batch normalization和Instance normalization的对比？
Evidential deep learning里一般怎么估计多标签分类的Uncertainty？
计算机视觉研一，只学过Python基础，目前代码能力很差，要不要换导师，不换的话如何毕业？
如何评价 On Unifying Deep Generative Models 这篇 paper?
AMD 开源高性能机器智能库MIopen是否可以和cuDNN抗衡？
为什么熵值最大的分布状态是正态分布而不是均匀分布？
算法岗位真的需要顶会才能入场吗？
大牛Bengio 团队最新的研究和我自己之前的研究成果重复了，应该怎么办？
GAN的生成器是怎么产生图片的？
为什么现在有这么多人工智能无用论？
研一刚入学，从未接触过神经网络，python也是才开始学，现在导师要我做LSTM，我应该去学什么？
如何看待SQuAD比赛中，阿里、MSRA机器阅读理解准确率超越人类？
如何评价中国人民大学高瓴人工智能学院教授的薪酬标准？
ICML 2018 有哪些值得关注的亮点?
有监督和无监督学习都各有哪些有名的算法和深度学习？
如何评价生成模型框架 ZhuSuan?
为什么有些学数学的看不惯甚至鄙视 Deep Learning？
Deep Learning 的专家如此急缺，它难在何处？
特征工程中的「归一化」有什么作用？
如何评价余凯创立的horizon robotics？
AI在网络安全领域（尤其是威胁检测领域），有什么好的应用场景？
在五到十年内，人工智能能复原成人影片中的被马赛克部分吗？
有没有必要把机器学习算法自己实现一遍？
下一代 AI 框架长什么样？
如何评价中国人民大学高瓴人工智能学院教授的薪酬标准？