Qulacs-Osaka / scikit-qulacs

scikit-qulacs is a library for quantum neural network. This library is based on qulacs and named after scikit-learn.
https://qulacs-osaka.github.io/scikit-qulacs/index.html
MIT License
21 stars 6 forks source link

log_loss miss #148

Closed WATLE closed 2 years ago

WATLE commented 2 years ago

log_lossの微分計算ミスってたことが発覚

WATLE commented 2 years ago

log_lossそのものを勘違いしていた模様。原因不明 かすかな記憶として、regとの対称性とか、正規化とか、出力が[-1,1]しか取れないとかあった気もしなくはない。 とりあえず、修正します

WATLE commented 2 years ago

https://www.iwanttobeacat.com/entry/2018/08/26/225822

WATLE commented 2 years ago

https://www.anarchive-beta.com/entry/2020/08/06/180000

WATLE commented 2 years ago

直したらスコア下がっりました 直したつもりがバグを埋め込んだだけかもしれませんけど。

WATLE commented 2 years ago

どうします?

WATLE commented 2 years ago

@ikanago

ikanago commented 2 years ago

実装見たいので push してもらえますか(すでに上げてて見つけられてないだけだったらすいません)?

WATLE commented 2 years ago

実験したところ、計算方法が異なったことにより、最適なパラメータが変化していました。 具体的には、y_exp_ratioを5.0から2.2に下げることで成功しました。

pushします

ikanago commented 2 years ago

149