网络如何学习到权重较大的特征向量呢？

LynnHo / EigenGAN-Tensorflow

EigenGAN: Layer-Wise Eigen-Learning for GANs (ICCV 2021)

MIT License

344 stars 40 forks source link

Closed dingyitk159 closed 2 years ago

dingyitk159 commented 2 years ago

网络中似乎没有对L的大小作约束，只对U的正交性做了约束，它是怎么保证像PCA一样能够找到每一层的主成分呢？

LynnHo commented 2 years ago

网络中似乎没有对L的大小作约束，只对U的正交性做了约束，它是怎么保证像PCA一样能够找到每一层的主成分呢？

线性情况有理论证明（见附录），而非线性情况目前没有理论保证，但实验现象表明确实能够在不同层找到一些可解释的维度。

dingyitk159 commented 2 years ago

非常感谢您的回答，很棒的工作！