ClemDoum / dmn

First draft for DMN
0 stars 0 forks source link

Remplacer theano.scan par une boucle for #1

Open ghost opened 8 years ago

ghost commented 8 years ago

Tu en avais déjà parlé le double scan est un peu hasardeux, difficile de prévoir comment theano va gérer ça. Je me demandais donc si on pouvait pas remplacer celui qui calcul l'état de la mémoire par une simple boucle for ? sachant qu'en soit je pense pas qu'il y est beaucoup d'itération et je vois mal comment faire du batch learning dessus.

ClemDoum commented 8 years ago

Tu en avais déjà parlé le double scan est un peu hasardeux, difficile de prévoir comment theano va gérer ça.

J'avoue que je n'en sais rien, il faudrait tester sur des exemples concrets. Car dans cette discussion et celle-ci, ils conseillent d'éviter la boucle for.

En revanche j'ai du mal à évaluer lequel de la boucle for ou du double scan est le pire. Je pense qu'on devrait tester.

je vois mal comment faire du batch learning dessus.

Alors j'y ai réfléchi un peu et on pourrait utiliser conditional ending de la fonction scan et utiliser un masque afin de pas updater les exemples du batch pour lesquels les symbole de fin de loop a déjà été tiré (il faudrait vérifier la faisabilité de tout ça).

ClemDoum commented 8 years ago

J'hésite à poser la question sur le Github de Theano ou sur le groupe de user, qu'en penses tu?

ghost commented 8 years ago

on pourrait utiliser conditional ending de la fonction scan

J'ai encore jamais utilisé mais ça peut-être intéressant d'essayé.

J'hésite à poser la question sur le Github de Theano ou sur le groupe de user, qu'en penses tu?

Je pense que c'est une bonne idée de demander si 2 scan peuvent être imbriquer.

T'as déjà essayé d'afficher le graph theano?