Are there any plans to add an optimizer?(optimizer 追加予定はありますか？)

[muooon]

お世話になってます。今後オプティマイザ追加予定はありますか？

traintrain.py：OPTIMIZERS = [] trainer.py：def get_optimizer(name: str)、if name.startswith("")

このあたりに項目追加すれば他のオプティマイザを使うことが可能でしょうか？ bitsandbytes (bnb) のアップデートで 8bit 系等を使えるようになっているようなので 今後の予定について教えてください (特に paged~ の低VRAMでの学習に関心を持ってます)