如何判断两个Deep Learning 数据集的数据分布是否一致？ 第1页
1
jindongwang 网友的相关建议:
很遗憾，分布距离如你的身高般永远无法精确度量。现有的方法也均是采用特定假设下能给出的解决方案，并不存在一种统一的、精确的分布度量方式。
常用的可以尝试的方法：
- MMD是一种常用的数据分布距离度量方式。你完全可以用MMD得到数据集A和B的MMD距离，以此作为二者的数据分布距离D1。
- KL divergence也是很常用的计算方式。利用KL divergence，得到分布距离D2。
- 基于domain adaptation理论构建一个线性分类器去分两个数据集，也就是A-distance，得到距离D3。
- 其他任何已有的pair-wise距离计算，如欧氏距离、余弦相似度等，都能得到其他的距离，我们用D4表示。
首先，D1~D4这些数值肯定是不相等的；其次，它们没有可比性；再次，并没有一个距离和传说中的“groundtruth”接近。。。
在实际使用时，根据自己的问题选择适当的分布度量差异、言之成理即可。当然，你也可以自己开发新的分布差异度量方法。
1
相关话题
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？大家推荐一下，哪些学校的导师有在做量化交易、股票预测的？
如何看待Transformer在CV上的应用前景，未来有可能替代CNN吗？
搞机器学习的生环化材是天坑吗？
算法工程师是否应该持续读论文？
机器学习里面的流形都是怎么用的？
人脸识别哪家强？
如何看待AI伦理科学家Timnit Gebru在邮件控诉谷歌缺乏种族多样性后被Jeff Dean炒掉？
CVPR 2019 有哪些值得关注的亮点？
有哪些人工智能上的事实，没有一定人工智能知识的人不会相信？
前一个讨论
人是如何做黑盒优化的？
相关的话题
近几年有哪些关于机器学习中隐私（Privacy）和安全（Security）相关的研究值得关注?多因子模型是否真的可以带来阿尔法（alpha）？
二分类问题，应该选择sigmoid还是softmax？
如何系统学习机器学习？
为什么CV能做到让一幅人脸图动了笑了，而NLP的text-style-transfer进展貌似一般？
2020到2021年小样本学习取得重大进展了吗？
视觉算法的工业部署及落地方面的技术知识，怎么学？
如何看待 Nervana 被 Intel 收购？
为什么现在的CNN模型都是在GoogleNet、VGGNet或者AlexNet上调整的？
既然使用神经网络也可以解决分类问题，那SVM、决策树这些算法还有什么意义呢？
机器学习初学者该如何选读适合自己水平的论文？
深度学习中，模型大了好还是小了好呢？
如何看待 Nervana 被 Intel 收购？
如何评价各种关联因素分析算法,尤其是在算法效果对比方面?
CVPR2022 有什么值得关注的论文 ?
如何评价MSRA视觉组最新对spatial attention mechanism分析论文？
UCLA 的朱松纯教授是一个什么样的人？
机器学习能否用于综合评价？具体怎么操作？
如何评价 MXNet 被 Amazon AWS 选为官方深度学习平台？
如何计算CNN中batch normalization的计算复杂度（FLOPs）？
在五到十年内，人工智能能复原成人影片中的被马赛克部分吗？
我决定进军期货市场，您有什么建议吗？
请问下大家训练 SimCSE 时, loss 有没有这样的情况?
如何看待李沐老师提出的「用随机梯度下降来优化人生」？
如何评价微软新出的自拍软件 Microsoft Selfie？
对自己深度学习方向的论文有idea，可是工程实践能力跟不上，实验搞不定怎么办？
请问DeepMind和OpenAI身后的两大RL流派有什么具体的区别？
如何看待Geoffrey Hinton的言论，深度学习要另起炉灶，彻底抛弃反向传播？
计量经济学是不是过时了？
深度学习（机器学习）的下一步如何发展？