llm-jp / experiments

Issue-Only Pretrain Task Management Repository
0 stars 0 forks source link

[チューニング] - チューニング用インストラクションデータ開発 #49

Open Taka008 opened 1 month ago

Taka008 commented 1 month ago

Overview

インストラクションチューニング用の合成データを生成し,モデルを学習・評価したうえでその有効性を検証する

Details

おもに有用性に関してインストラクションチューニング用の合成データを生成する. llm-jp-3-1.8B, 3.7B, 13B で各データの有効性を検証する.

Resources