Journal/Conference: ICLR 2002
Title: N-BEATS: Neural basis expansion analysis for interpretable time series forecasting
Authors: Boris N. Oreshkin, Dmitri Carpov, Nicolas Chapados, Yoshua Bengio
URL: https://arxiv.org/abs/1905.10437
Seasonality Model
ここの部分だけに着目して，Google Trendの情報を埋め込むとうまくいきそう
周期性を考慮した部分
3.4 Ensembling
アンサンブルを行う
4
Theta methodで時系列を分解して，要素ごとに予測を行う
5
DOTA: theta methodの最近の研究
Jose A. Fiorucci, Tiago R. Pellegrini, Francisco Louzada, Fotios Petropoulos, and Anne B. Koehler. Models for optimising the Theta method and their relationship to state space models. International Journal of Forecasting, 32(4):1151–1161, 2016.
0. 論文
Journal/Conference: ICLR 2002 Title: N-BEATS: Neural basis expansion analysis for interpretable time series forecasting Authors: Boris N. Oreshkin, Dmitri Carpov, Nicolas Chapados, Yoshua Bengio URL: https://arxiv.org/abs/1905.10437
1. どんなもの？
1変量時系列予測において有用なDeep Learning Modelの提案 モデル全体図
2. 先行研究と比べてどこがすごい？
・1変量時系列予測の潮流が古典的時系列モデルとDLモデルとのEnsemblingだったところを，適切なDeep learningモデルを提案して予測精度の有用性を示した点 ・また，Deep Learningモデルながらも，季節性とTrend成分ごとに分解し解釈性を上げるモデルを提案した点
3. 技術や手法のキモはどこ？
・ドメイン固有のモジュールなしで，どの1変量時系列予測に適用できる
4. どうやって有効だと検証した？
金融データセットを用いて実験
5. 議論はある？
評価指標が一般的に用いられているものでないので面白い (季節性を考慮した予測批評とか) 結構、層が深いモデルなのでデータ数が少ない場合は過学習の可能性が高い
6.次に読むべき論文は？
メモ
1変量時系列予測問題の解決
1 Introduction 解釈のために，適切な誘導バイアスをモデルに組み込むことができるか？ 貢献 ・古典的な時系列予測モデルではなく，Deepアーキテクチャのみで優れた予測精度を達成する ・解釈可能な出力を持つ
2 Problem statement 長さTの時系列yからH先の時系列を予測 ★4つの評価指標 sMAPE, MAPE, MASE, OWA MASE：季節性を考慮した指標 OWA：M4用の評価指標
3 N-BEATS ・深いモデル ・時系列固有の特徴工学や入力スケーリングに依存しない →この2つの条件を前提にDLモデルを検討する
3.1 Basic block l番目のブロックを例に x_lを入力 予測先Hの２H-7Hを入力とする 出力：x_lとy_l x_l：backcastと言われる，入力信号を近似するもの？(下流ブロックを助けることが重要) y_l：Hの前方予測 (予測が最適であることが重要)
3.2 Doubly residual stacking 二重残差アプローチ? ・各層のbackcast prediction ・各層のbranch forecast
??
3.3 Interpretability 通常のDLに基づくものと，解釈可能なようにバイアスを加えたもの 解釈性を重視したモデル(N-beats-G)と，一般的な手法によるモデル(N-beats-I)の2つを提案
・generic architecture theta自体は時系列の部分分解と解釈して、予測値を生成 → なんで学習行列のVの次元に解釈をもたせることができるの？
・interpretable architecture 2つのスタックで構成 季節性スタックに入力される前にトレンド成分を除き，各部分予測を行い，季節性とtrend性のブロックで学習を行う
Trend Model Trendはゆっくりと変化するものであるという仮説の元で設計
Seasonality Model ここの部分だけに着目して，Google Trendの情報を埋め込むとうまくいきそう 周期性を考慮した部分
3.4 Ensembling アンサンブルを行う
4 Theta methodで時系列を分解して，要素ごとに予測を行う
5 DOTA: theta methodの最近の研究 Jose A. Fiorucci, Tiago R. Pellegrini, Francisco Louzada, Fotios Petropoulos, and Anne B. Koehler. Models for optimising the Theta method and their relationship to state space models. International Journal of Forecasting, 32(4):1151–1161, 2016.
実装︰https://github.com/philipperemy/n-beats