如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
如何评价 DeepMind 公司？普通程序员如何正确学习人工智能方向的知识？
实验室只有1080的显卡，老师还想让发深度学习论文，也不给配置好的显卡怎么办？
如何评价最近火热的对比学习，会引领预训练模型新的范式嘛?
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
有哪些比较好的机器学习，深度学习的网络资源可利用？
在NLP上，CNN、RNN（认为LSTM等变体也是RNN）、最简单全连结MLP，三者相比，各有何优劣?
如何理解今年发表在JMLR上随机森林算法SPORF？
从今年校招来看，机器学习等算法岗位应届生超多，竞争激烈，未来 3-5 年机器学习相关就业会达到饱和吗？
从应用的角度来看，深度学习怎样快速入门？
前一个讨论
人是如何做黑盒优化的？
相关的话题
ICLR 2019 有什么值得关注的亮点？如何看待End-to-End Object Detection with Transformers？
计算机视觉中video understanding领域有什么研究方向和比较重要的成果？
如何看待 Google 围棋 AI AlphaGo 击败欧洲围棋冠军？
普通FPGA工程师怎样向人工智能靠拢？
如何用自然语言处理判断一句话是否符合中文口语习惯？
人工智能的意义和价值是什么？
如何评价微软新出的自拍软件 Microsoft Selfie？
如何评价 MXNet 被 Amazon AWS 选为官方深度学习平台？
如何评价 On Unifying Deep Generative Models 这篇 paper?
什么时候对数据进行[0,1]归一化，什么时候[-1,1]归一化，二者分别在什么场景？
Graph Attention Network的本质是什么？
如何理解MCMC中的细致平稳条件？
人工智能 CV 岗位是不是现在供严重大于需？
如何评价剑桥，腾讯， DeepMind以及港大团队新作 SimCTG ?
加州大学伯克利分校为何能连续孵化出 Mesos,Spark,Alluxio,Ray 等重量级开源项目?
如何评价 On Unifying Deep Generative Models 这篇 paper?
什么是meta-learning?
为什么Transformer适合做多模态任务？
如何看待周志华等人的新书《机器学习理论导引》？
如何判断两个Deep Learning 数据集的数据分布是否一致？
scikit-learn, tensorflow, pytorch真的只需要查下API，不需要学吗?
有什么深度学习数学基础书推荐？
多任务学习成功的原因是引入了别的数据库还是多任务框架本身呢？
为什么读论文最好打印出来读？
BERT模型可以使用无监督的方法做文本相似度任务吗？
如何看待 Google 围棋 AI AlphaGo 击败欧洲围棋冠军？
编写基于机器学习的程序，有哪些编写和调试的经验和窍门？
AI 有可能代替人类从事数学研究吗？
人工智能领域有哪些精妙的数学原理？