Add docs example about nm sampler

aistairc / aiaccel

A hyperparameter optimization library for the ABCI.

https://aistairc.github.io/aiaccel/

MIT License

23 stars 4 forks source link

Open KanaiYuma-aist opened 1 month ago

KanaiYuma-aist commented 1 month ago

NelderMeadSampler に関する docstring と examples を追加しました。
- docstring については NelderMeadAlgorism NelderMeadSampler クラスと、その各メソッドについて Googleスタイルで追加しました。
- examples については example として、通常実行時・並列実行時・enqueue_trial 利用時・sub_sampler 利用時の4種のコードと、tpe・nm単体・sub_sampler=tpe利用時のnm の結果を比較実行するコードを追加しました。

KanaiYuma-aist commented 1 month ago

開発者会議メモ

(examples docs には関連しない項目)

KanaiYuma-aist commented 1 month ago

開発者会議メモ

KanaiYuma-aist commented 3 weeks ago

開発者会議メモ

ブラックボックス最適化フレームワーク(coco)を用いた並列時のTPE, NM+TPE の評価にローカルだと時間が掛かる(40パラだけでも直列だと2周間掛かるかも)
- 20パラまではローカルでほぼ実行完了しているので、40パラの部分のみを job dispatcher を用いて書いてみる & 関数毎に並列で実行してみる

KanaiYuma-aist commented 2 weeks ago

開発者会議メモ

KanaiYuma-aist commented 1 week ago

開発者会議メモ

coco の stub 作成はちょっと大変そう(元のコードを見つつ pyi ファイルを作成する必要がある, cpython が使われており、恐らくその部分が原因で stubgen では stub が作成困難)なので、外部ライブラリの型アノテーションを無視するオプションを mypy.ini に作成する
- 作成済み -> https://github.com/aistairc/aiaccel/pull/376
coco 本体のインストールは、README にインストール手順を書いて本体にはインストールしない
最適化推移の csv ファイル群は example に含めない

KanaiYuma-aist commented 1 week ago

coco を利用した並列実行の検証用コードを examples に追加しました。

87801b84d38dde60f17bdf086fd9aa0b9b4e828c

KanaiYuma-aist commented 4 days ago

開発者会議メモ

NelderMeadSampler の suggest_loguniform 関連調査
- 軽く調べたところ、 suggest_loguniform は v6.0.0 で削除予定。 suggest_float(…, log=True) が代替機能の模様　念の為 suggest_float(…, log=True) の動作を確認する
sub_sampler 機能について README に追記
HPO/BBOアルゴリズムの追加？