JoCrotaux / time_series_forecasting

1 stars 1 forks source link

Preuve de faisabilité - réseau neuronal pour prédiction temporelle #10

Open JoCrotaux opened 5 years ago

JoCrotaux commented 5 years ago

Yop, Un autre topic important... demontrer qu'un réseau neuronal peut effectivement prédire l'evolution d'une série temporelle. Les tutos explorés ne le font pas en fait... Les adaptations du script «iris» ne donne rien, un escalier ça marche pas non plus etc En résumé il faudrait trouver qqch qui fournit des résultats probant sur un exemple simple. Cela permettrait de s'en inspirer pour

Maxtille commented 5 years ago

Bien vu ! :) à ce sujet, j'ai un pdf qui à l'air de répondre à toute ces questions, je viens de le trouver c'est une archive de thèse mais j'arrive pas à l'uploader car j'ai pas le "push access to this repository" ... ;) En attendant voilà l'url : https://tel.archives-ouvertes.fr/tel-01724156/document

JoCrotaux commented 5 years ago

Je ne sais pas si on trouvera la réponse texto dans ce document mais en tout cas ce qui est sûr c'est qu'on apprend des trucs à presque chaque ligne :) De ce que je vois,

  1. un bon état de l'art qui présente des méthodes pour prédire des trucs (méthodes heuristiques, autorégressive et enfin réseau neuronal)
  2. Leur modèle proposé "RAINSTORM permettant d’apprendre sur plusieurs séries temporelles dans le cas où ces dernières sont reliées entre elles par une structure de graphe". Le modèle est capable de prendre l'information hétérogène et de différentes sources produisant de l'info simultanément. L'auteur met en avant le fait que le modèle peut gérer si des informations sont manquantes ("complétion)". L'exemple donné est une prédiction du trafic à différent endroit d'une ville.
  3. Des modifications du modèle permettent de prendre en compte des données comme l'occupation des parkings et aussi les prédire
  4. Les composantes relationnelles et temporelles des séries sont modélisées par des distributions gaussiennes et non plus par des représentations déterministes. Ces représentations sto- chastiques pemettent de modéliser l’incertitude et le bruit inhérent aux observations et de prédire les futures valeurs des séries temporelles avec un taux de confiance dans la prédiction. Le modèle montre des performances compétitives par rapport à d’autres modèles de l’état de l'art de modéliser simplement l’incertitude des prédictions, fournissant par exemple des intervalles de confiance pour chaque prédiction.
  5. STNN : un modèle plus général permettant de capturer des corrélations plus complexes
  6. une méthode pour apprendre simultanément une mé- trique et un modèle de classification pour les séries temporelles. Nous montrons que considérer deux critères - l’un de classification et l’autre d’apprentissage de métrique- permet d’améliorer le pouvoir de généralisation de réseaux de neurones profonds dans le cas des données temporelles.Différente architecture de NN sont étudiées (convolutionnelles, siamois)
Maxtille commented 5 years ago

Yo @JoCrotaux ! j'ai trouvé deux répertoits intéréssants, ça parle de LSTM Long Short Term Memory un modèle de RNN qui fonctionne bien pour forecast des time series cà à l'air plutôt bien expliqué avec du code etc,

Voilà qui semble être de bonne aide pour avoir des idées de code

Maxtille commented 5 years ago

Ceci semble aussi bien expliquer comment fonctionne ce type de modèle et comment en créer un : https://towardsdatascience.com/lstm-by-example-using-tensorflow-feb0c1968537

Maxtille commented 5 years ago

Oh et puis il ya ça aussi qui a l'air bien balaise : http://adventuresinmachinelearning.com/recurrent-neural-networks-lstm-tutorial-tensorflow/

Voilà de quoi nous occuper pour un moment ;)

JoCrotaux commented 5 years ago

Alz je vais regarder un peu ça alors

JoCrotaux commented 5 years ago

Il a l'air sale le bouquin http://index-of.es/Varios-2/Hands%20on%20Machine%20Learning%20with%20Scikit%20Learn%20and%20Tensorflow.pdf

Maxtille commented 5 years ago

Aouai de fait :p