ytakashina / HTMResearch

0 stars 0 forks source link

Level2以上でも離散化は必要か考える #53

Closed ytakashina closed 7 years ago

ytakashina commented 7 years ago

Level1の入力を32点まで離散化し、Temporal Pooling(遷移確率を類似度と見立てたクラスタリング)によって8つまでグループを減らしたとしても、Level2では6つノードの情報を統合するので、Level2への入力の場合の数は8^6通りとなり、空間が極めて広くなる。結果、遷移確率が以下のように極端にスパースなってしまった。

layer2_probabilities

場合の数を減らすために、Level2以上でも、ハミング距離などを使った離散化をすべき。

ytakashina commented 7 years ago

まずは次元を減らしてやってみる

ytakashina commented 7 years ago

優先してやる

ytakashina commented 7 years ago

実装中。 ハミング距離を基準としてK-medoidsで離散化する……?

ytakashina commented 7 years ago

Spatial Poolingをソフト割り当てに #73 で代替