thuml / Koopa

Code release for "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors" (NeurIPS 2023), https://arxiv.org/abs/2305.18803
MIT License
186 stars 23 forks source link

about time-invariant #24

Open khan-yin opened 1 month ago

khan-yin commented 1 month ago

您好,我想问一下koopa这个文章,通过求fft的平均辐值强度,来筛选频率,作为时不变成分,这块有理论一点的证明吗,就是为什么他是时不变的

WenWeiTHU commented 1 month ago

同学你好,感谢对我们工作的关注。对于您的问题,我们之前在openreivew上有一些intuitive explanations:。部分内容如下。但我们目前还没有提供理论化的证明,我认为主要思路可以从非平稳时间序列的分解特性和连续时间傅立叶变换出发,希望这个例子对您有所帮助,也欢迎随时与我们交流!

​​

image
khan-yin commented 1 month ago

好的好的!谢谢!我先详细看看,有问题再和您交流!

khan-yin commented 1 month ago

@WenWeiTHU hello 同学你好,这个例子的确符合您提到的观点,我大概理解你解耦的想法,不过我在今年的NIPS2024看到有一篇Frequency Adaptive Normalization For Non-stationary Time Series Forecasting[arvix]上似乎有一个和您思路有些对立的思想,他认为这些高幅值的topk频率反而是不稳定的,文章的introduction里面有简单提到和koopa的比较区别,我还是这方面的初学研究者,想请你指点一下这两个文章都在解决Non-stationary的时序问题,是什么场景和情况导致的出现这两种不同的观点?因为从我的实验经验来看,这两种观点有时候确实都有可用之处🤣,其实从他给出的证明角度有点不太能说服我,因为他说去掉频率之后方差会变小我能理解,但是不论是去掉哪个部分都是会减小方差,这和稳不稳定似乎关系不大。 image image

WenWeiTHU commented 3 weeks ago

我认为其实两者其实有相通之处:平稳时间序列是分布不会随时间变化的序列,而分布不能简单定义为均值和方差,但是在时域上分析随时间变化的更高阶矩其实是比较困难的。而频域分析提供了一个global的视角(例如spectrum的分布,是不包含时间维的),所以Koopa以及后续工作都采用了FFT分解的思路。