如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
请问DeepMind和OpenAI身后的两大RL流派有什么具体的区别？NLP领域，你推荐哪些综述性的文章？
如何看待谷歌公开 tensorflow 专用处理器 TPU?
为什么我用相同的模型，数据，超参，随机种子，在两台服务器会得到不同的结果？
深度学习领域，你心目中 idea 最惊艳的论文是哪篇？
请问在金融风控方向，如何运用用户行为序列进行特征设计和挖掘？
机器学习算法工程师如何自己接项目单干、并赚取比上班多得多的收入？
如何看待与评价 AAAI 2022 的录用结果？
全连接层的作用是什么？
Yoshua Bengio为什么能跟Hinton、LeCun相提并论？？
前一个讨论
人是如何做黑盒优化的？
相关的话题
2021 年，深度学习方面取得了哪些关键性进展？为什么Transformer要用LayerNorm？
有监督和无监督学习都各有哪些有名的算法和深度学习？
如何评价MXNet发布的1.0版本？
2019年CVPR有哪些糟糕的论文?
研一，在学机器学习和深度学习，为什么感觉越学越不会，怎么解决这个问题？
如何看待Transformer在CV上的应用前景，未来有可能替代CNN吗？
机器学习的算法和普通《算法导论》里的算法有什么本质上的异同？
普通FPGA工程师怎样向人工智能靠拢？
应届硕士毕业生如何拿到知名互联网公司算法岗（机器学习、数据挖掘、深度学习） offer？
医学生学习机器学习该如何入门？
如何评价周志华在微博对 AlphaGo 和机器学习技术的评论？
当前人工智能特别是深度学习最前沿的研究方向是什么？
如何评价Google提出的MLP-Mixer：只需要MLP就可以在ImageNet上达到SOTA？
如何看待鄂维南院士等发起的机器学习联合研讨计划（c2sml.cn）？
《失控玩家》中的游戏有可能实现出来吗？
各种机器学习算法的应用场景分别是什么（比如朴素贝叶斯、决策树、K 近邻、SVM、逻辑回归最大熵模型）？
GAN:固定训练好的判别器网络，去指导训练生成器为什么不可以？
面试官如何判断面试者的机器学习水平？
如何看待马毅老师深度学习第一性原理的文章在 ICML 四个审稿人一致接收的情况下被 AC 拒了？
求通俗解释下bandit老虎机到底是个什么东西？
如何看待NLP领域最近比较火的prompt，能否借鉴到CV领域？
如何评价CUHK以及Yuanjun Xiong提出的Trajectory Convolution？
在文本分类任务中，有哪些论文中很少提及却对性能有重要影响的tricks？
有哪些优秀的深度学习入门书籍？需要先学习机器学习吗？
CVPR2022 有什么值得关注的论文 ?
如何可以通过自学来深入学习机器学习？
机器学习如何才能避免「只是调参数」？
研一，在学机器学习和深度学习，为什么感觉越学越不会，怎么解决这个问题？
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？