DAMO-DI-ML / ICML2022-FEDformer

Source code of ICML'22 paper: FEDformer: Frequency Enhanced Decomposed Transformer for Long-term Series Forecasting
MIT License
197 stars 34 forks source link

推荐配置和显卡 #11

Open 1348598339 opened 1 year ago

1348598339 commented 1 year ago

请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢

tianzhou2011 commented 1 year ago

单卡 V100

On Tue, Aug 1, 2023 at 4:06 PM 1348598339 @.***> wrote:

请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢

— Reply to this email directly, view it on GitHub https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY . You are receiving this because you are subscribed to this thread.Message ID: @.***>

1348598339 commented 1 year ago

单卡 V100 On Tue, Aug 1, 2023 at 4:06 PM 1348598339 @.> wrote: 请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢 — Reply to this email directly, view it on GitHub <#11>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY . You are receiving this because you are subscribed to this thread.Message ID: @.>

好的,感谢,还有就是要调参的话,有哪些参数是会对模型结果产生较大吧影响的,大概范围都是多少啊,还是在原参数周围波动即可

tianzhou2011 commented 1 year ago

这个问题太大,我们没怎么调过参数,第一组参数拍上去就挺好的,之后就沿用了。没法回答调参大概范围,想精调的话就grid search一下吧

On Tue, Aug 1, 2023 at 10:27 PM 1348598339 @.***> wrote:

单卡 V100 … <#m-7053075759413168786> On Tue, Aug 1, 2023 at 4:06 PM 1348598339 @.> wrote: 请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢 — Reply to this email directly, view it on GitHub <#11 https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY . You are receiving this because you are subscribed to this thread.Message ID: @.>

好的,感谢,还有就是要调参的话,有哪些参数是会对模型结果产生较大吧影响的,大概范围都是多少啊,还是在原参数周围波动即可

— Reply to this email directly, view it on GitHub https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11#issuecomment-1660441920, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3YED3ZV5XIVZNJCLTXTEG3XANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.***>

1348598339 commented 1 year ago

这个问题太大,我们没怎么调过参数,第一组参数拍上去就挺好的,之后就沿用了。没法回答调参大概范围,想精调的话就grid search一下吧 On Tue, Aug 1, 2023 at 10:27 PM 1348598339 @.> wrote: 单卡 V100 … <#m-7053075759413168786> On Tue, Aug 1, 2023 at 4:06 PM 1348598339 @.> wrote: 请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢 — Reply to this email directly, view it on GitHub <#11 <#11>>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY . You are receiving this because you are subscribed to this thread.Message ID: @.> 好的,感谢,还有就是要调参的话,有哪些参数是会对模型结果产生较大吧影响的,大概范围都是多少啊,还是在原参数周围波动即可 — Reply to this email directly, view it on GitHub <#11 (comment)>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3YED3ZV5XIVZNJCLTXTEG3XANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.>

感谢您的回答,我还有几个问题: (1)我的预测任务是多变量预测,变量个数为324,是通过栈式自编码器压缩得到的图片向量,样本总数为35000余条,要预测未来一年4380条数据,由于栈式自编码器压缩得到的向量在特征维度上分布差异较大(大概在负几十到正几十之间),所以我在输入数据前先对数据进行了列归一化,将数据全部归一化至(0, 1)区间内,请问这样是否会影响模型学习输入数据的长时间变化规律而导致一年的预测数据相差不大(我用informer时出现过这种问题,一年内的变化幅度非常小,导致最后预测误差分布错误,会不会是归一化后数据间差距较小导致的),FEDformer的季节趋势分解等方法是否能解决这个问题(同样的数据输入,FEDformer在测试集上的mse较informer小37%左右,但误差分布如何尚未得知) (2)我我希望预测未来一年4380条数据,序列长度非常长,debug得知predict函数的输入是截取数据集最后的seq_len长度数据进行预测,我的做法是单独运行predict函数,将每一次的预测结果写入数据集的的末尾,在写入完成后再单独运行predict函数,请问这样的做法是否会导致模型预测结果出现问题? (3)我在代码中看到,freq参数可以自定义设置,如3h,但我设置为2h时程序会报错,请问是需要改哪里吗? 以上是我的三个问题,盼望着您的回复,谢谢

tianzhou2011 commented 1 year ago

(1) 应该还好吧,归一到(0,1)之前很正常,不觉的会因为这样有问题,预测不准是算法自己的问题,跟normalization 没什么关系。 具体fedformer能不能做要实验做着看了,我也不确定..... (2)问题是不大,确实可以这么做,但会很不准吧==你这也太长了,用预测值当input会误差累计。但也没什么其他办法的样子 (3) 这个你看看代码自己改把,这是从autoformer那篇base代码继承过来的参数,我们没用过freq这个参数。 dataloader稍微改一下就好

On Wed, Aug 2, 2023 at 9:49 AM 1348598339 @.***> wrote:

这个问题太大,我们没怎么调过参数,第一组参数拍上去就挺好的,之后就沿用了。没法回答调参大概范围,想精调的话就grid search一下吧 … <#m1498762548009482526> On Tue, Aug 1, 2023 at 10:27 PM 1348598339 @.*> wrote: 单卡 V100 … <#m-7053075759413168786> On Tue, Aug 1, 2023 at 4:06 PM 1348598339 @.> wrote: 请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢 — Reply to this email directly, view it on GitHub <#11 https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11 <#11 https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11>>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY . You are receiving this because you are subscribed to this thread.Message ID: @.> 好的,感谢,还有就是要调参的话,有哪些参数是会对模型结果产生较大吧影响的,大概范围都是多少啊,还是在原参数周围波动即可 — Reply to this email directly, view it on GitHub <#11 (comment) https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11#issuecomment-1660441920>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3YED3ZV5XIVZNJCLTXTEG3XANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3YED3ZV5XIVZNJCLTXTEG3XANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.***>

感谢您的回答,我还有几个问题: (1)我的预测任务是多变量预测,变量个数为324,是通过栈式自编码器压缩得到的图片向量,样本总数为35000余条,要预测未来一年4380条数据,由于栈式自编码器压缩得到的向量在特征维度上分布差异较大(大概在负几十到正几十之间),所以我在输入数据前先对数据进行了列归一化,将数据全部归一化至(0, 1)区间内,请问这样是否会影响模型学习输入数据的长时间变化规律而导致一年的预测数据相差不大(我用informer时出现过这种问题,一年内的变化幅度非常小,导致最后预测误差分布错误,会不会是归一化后数据间差距较小导致的),FEDformer的季节趋势分解等方法是否能解决这个问题(同样的数据输入,FEDformer在测试集上的mse较informer小37%左右,但误差分布如何尚未得知)

(2)我我希望预测未来一年4380条数据,序列长度非常长,debug得知predict函数的输入是截取数据集最后的seq_len长度数据进行预测,我的做法是单独运行predict函数,将每一次的预测结果写入数据集的的末尾,在写入完成后再单独运行predict函数,请问这样的做法是否会导致模型预测结果出现问题? (3)我在代码中看到,freq参数可以自定义设置,如3h,但我设置为2h时程序会报错,请问是需要改哪里吗? 以上是我的三个问题,盼望着您的回复,谢谢

— Reply to this email directly, view it on GitHub https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11#issuecomment-1661363012, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3EQHUDLUAV2CP25OLXTGWZZANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.***>

1348598339 commented 1 year ago

(1) 应该还好吧,归一到(0,1)之前很正常,不觉的会因为这样有问题,预测不准是算法自己的问题,跟normalization 没什么关系。 具体fedformer能不能做要实验做着看了,我也不确定..... (2)问题是不大,确实可以这么做,但会很不准吧==你这也太长了,用预测值当input会误差累计。但也没什么其他办法的样子 (3) 这个你看看代码自己改把,这是从autoformer那篇base代码继承过来的参数,我们没用过freq这个参数。 dataloader稍微改一下就好 On Wed, Aug 2, 2023 at 9:49 AM 1348598339 @.> wrote: 这个问题太大,我们没怎么调过参数,第一组参数拍上去就挺好的,之后就沿用了。没法回答调参大概范围,想精调的话就grid search一下吧 … <#m1498762548009482526> On Tue, Aug 1, 2023 at 10:27 PM 1348598339 @.> wrote: 单卡 V100 … <#m-7053075759413168786> On Tue, Aug 1, 2023 at 4:06 PM 1348598339 @.> wrote: 请问作者在跑模型时用的是什么配置和显卡啊,租了一张英伟达A16跑的有些慢 — Reply to this email directly, view it on GitHub <#11 <#11> <#11 <#11>>>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3GAVYEVTZ2ZW2JK6DXTC2IZANCNFSM6AAAAAA27LSTQY . You are receiving this because you are subscribed to this thread.Message ID: @.> 好的,感谢,还有就是要调参的话,有哪些参数是会对模型结果产生较大吧影响的,大概范围都是多少啊,还是在原参数周围波动即可 — Reply to this email directly, view it on GitHub <#11 (comment) <#11 (comment)>>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3YED3ZV5XIVZNJCLTXTEG3XANCNFSM6AAAAAA27LSTQY https://github.com/notifications/unsubscribe-auth/AB3JGO3YED3ZV5XIVZNJCLTXTEG3XANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.**> 感谢您的回答,我还有几个问题: (1)我的预测任务是多变量预测,变量个数为324,是通过栈式自编码器压缩得到的图片向量,样本总数为35000余条,要预测未来一年4380条数据,由于栈式自编码器压缩得到的向量在特征维度上分布差异较大(大概在负几十到正几十之间),所以我在输入数据前先对数据进行了列归一化,将数据全部归一化至(0, 1)区间内,请问这样是否会影响模型学习输入数据的长时间变化规律而导致一年的预测数据相差不大(我用informer时出现过这种问题,一年内的变化幅度非常小,导致最后预测误差分布错误,会不会是归一化后数据间差距较小导致的),FEDformer的季节趋势分解等方法是否能解决这个问题(同样的数据输入,FEDformer在测试集上的mse较informer小37%左右,但误差分布如何尚未得知) (2)我我希望预测未来一年4380条数据,序列长度非常长,debug得知predict函数的输入是截取数据集最后的seq_len长度数据进行预测,我的做法是单独运行predict函数,将每一次的预测结果写入数据集的的末尾,在写入完成后再单独运行predict函数,请问这样的做法是否会导致模型预测结果出现问题? (3)我在代码中看到,freq参数可以自定义设置,如3h,但我设置为2h时程序会报错,请问是需要改哪里吗? 以上是我的三个问题,盼望着您的回复,谢谢 — Reply to this email directly, view it on GitHub <#11 (comment)>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO3EQHUDLUAV2CP25OLXTGWZZANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.>

好的,感谢

1348598339 commented 1 year ago

您好,我还有一个问题,请问模型在多变量预测模式下,输入变量的个数在多少较为合适,我是先使用栈式自编码器将图像压缩,再将压缩值输入模型进行预测,目前压缩后的长度为324,也就是变量个数为324,请问这个数量是否过大?

tianzhou2011 commented 1 year ago

还好,traffic 那个数据集channel数有800多个,也是可以跑的。300多应该没什么问题

On Sat, Aug 5, 2023 at 11:17 AM 1348598339 @.***> wrote:

您好,我还有一个问题,请问模型在多变量预测模式下,输入变量的个数在多少较为合适,我是先使用栈式自编码器将图像压缩,再将压缩值输入模型进行预测,目前压缩后的长度为324,也就是变量个数为324,请问这个数量是否过大?

— Reply to this email directly, view it on GitHub https://github.com/DAMO-DI-ML/ICML2022-FEDformer/issues/11#issuecomment-1666369482, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO4MELK3JFWKO2I22FLXTW3KZANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.***>

1348598339 commented 1 year ago

还好,traffic 那个数据集channel数有800多个,也是可以跑的。300多应该没什么问题 On Sat, Aug 5, 2023 at 11:17 AM 1348598339 @.> wrote: 您好,我还有一个问题,请问模型在多变量预测模式下,输入变量的个数在多少较为合适,我是先使用栈式自编码器将图像压缩,再将压缩值输入模型进行预测,目前压缩后的长度为324,也就是变量个数为324,请问这个数量是否过大? — Reply to this email directly, view it on GitHub <#11 (comment)>, or unsubscribe https://github.com/notifications/unsubscribe-auth/AB3JGO4MELK3JFWKO2I22FLXTW3KZANCNFSM6AAAAAA27LSTQY . You are receiving this because you commented.Message ID: @.>

请问更低的channel数会对未来预测数据产生更有利的影响吗