Open ssgw-keito opened 2 weeks ago
ドキュメント系のデータセットを混ぜてマルチモーダルモデルのinstruction tuningを行います。
google/siglip-so400m-patch14-384
mlp2x_gelu
llm-jp/llm-jp-3-13b-instruct
データ
llm-jp-nvlink:/model/sasagawa/VILA-ja/playground/data
llm-jp-nvlink:/model/experiments/0077_vila_doc/
1回の学習あたり1日程度かかります
Overview
ドキュメント系のデータセットを混ぜてマルチモーダルモデルのinstruction tuningを行います。
Details
google/siglip-so400m-patch14-384
mlp2x_gelu
llm-jp/llm-jp-3-13b-instruct
データ
Resources
llm-jp-nvlink:/model/sasagawa/VILA-ja/playground/data
llm-jp-nvlink:/model/experiments/0077_vila_doc/
1回の学習あたり1日程度かかります