如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
985工科研一觉得快要退学了怎么办？如何比较Keras, TensorLayer, TFLearn ？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
当初的生物热，和如今的全民CS全民AI，让你想到了什么？
机器学习中有哪些形式简单却很巧妙的idea？
《人工智能训练师国家职业技能标准》发布，有哪些值得关注的信息？
如何看待马毅教授在国内评不上杰青？
医学生学习机器学习该如何入门？
CTR预估中怎样加入图片特征？图片特征怎么提取？
BERT模型可以使用无监督的方法做文本相似度任务吗？
前一个讨论
人是如何做黑盒优化的？
相关的话题
你遇见过什么当时很有潜力但是最终没有流行的深度学习算法?华为年薪百万的应届博士到底有多厉害？
华为年薪百万的应届博士到底有多厉害？
知识图谱+nlp，有什么适合硕士独自研究的方向？
迁移学习入门，新手该如何下手？
要研究深度学习的可解释性（Interpretability），应从哪几个方面着手？
有哪些职业容易被人工智能替代？
视觉Transformer如何优雅地避开位置编码？
如何评价余凯在朋友圈发表呼吁大家用 caffe、mxnet 等框架，避免使用 TensorFlow？
ICLR 2022有哪些值得关注的投稿？
如何评价VOLO: Vision Outlooker for Visual Recognition？
卷积神经网络中卷积核是如何学习到特征的？
CVPR 2019 有哪些值得关注的亮点？
计算机视觉中，目前有哪些经典的目标跟踪算法？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
研究推荐系统要对NLP很了解吗？
大三电子类专业要分流，大家能给个建议吗?
ICML 2018 有哪些值得关注的亮点?
数据挖掘与数据分析的主要区别是什么？
有哪些你看了以后大呼过瘾的数据分析书？
如何看待Yoav Goldberg 怒怼来自MILA的GAN for NLG的paper?
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
深度学习底层开发对数学有哪些要求？
LSTM如何来避免梯度弥散和梯度爆炸？
有哪些看了让你醍醐灌顶的书籍、论文、期刊，使你对如何做数据挖掘、特征工程、统计挖掘有了眉目？
word2vec 相比之前的 Word Embedding 方法好在什么地方？
想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗？
计算机视觉中，目前有哪些经典的目标跟踪算法？
计算机视觉（cv）方向今年招聘情况怎么样?是否已经人才过剩?
CVPR2022 有什么值得关注的论文 ?