daa233 / learning-notes

My learning notes.
34 stars 5 forks source link

如何理解 Maximum Mean Discrepancy (MMD)? #20

Open daa233 opened 4 years ago

daa233 commented 4 years ago

Maximum Mean Discrepancy (distance distribution) 这个问题的回答里解释得挺好的。

按照我目前的理解,MMD 就是用来衡量 P 和 Q 两个数据分布之间的距离的。具体做法是将 P 和 Q (X 空间)通过函数 𝜑 分别映射到另一个空间 H(希尔伯特空间)中,然后计算 P 和 Q 在 H 空间 feature map 的均值差异。

Maximum 这个地方理解得不是很透彻,似乎是存在一组和 𝜑 相反的映射 f 可以从 H 空间映射回 X 空间,MMD 可以转换成使用 f 映射 P、Q(这里不明白,为什么 H 空间的 f 操作可以作用于 X 空间的 P/Q?)得到的 feature map 距离的上确界(取使得距离最大的 f)。

daa233 commented 4 years ago

An empirical study on evaluation metrics of generative adversarial networks 这篇论文提到可以用 kernel MMD 和 1-NN two-sample test 评价 GAN 的结果。