search

zomux / lanmt-ebm

lanmt ebm
11 stars 1 forks source link

Parallel decoding commands #27

Open zomux opened 4 years ago

zomux commented 4 years ago

IWLST16

python lanmt/run_ebm.py --root $HOME/data/iwslt16_ende --opt_dtok iwslt16_deen --opt_latentdim 8 --opt_distill --opt_scorenet --opt_train_delta_steps 4 --opt_modeltype fakegrad --opt_ebm_lr 0.0003 --opt_train_sgd_steps 1 --opt_train_step_size 1.0 --opt_priorl 3 --opt_decoderl 3 --test --evaluate --opt_Tsgd_steps 1 --opt_Tstep_size 1.0 --opt_Tsearch_lat 10 --opt_Tsearch_len 3 --opt_Tteacher_rescore

zomux commented 4 years ago

WMT16 RO-EN

python lanmt/run_ebm.py --root $HOME/data/wmt16_enro --opt_dtok wmt16_roen --opt_latentdim 8 --opt_batchtokens 8192 --opt_distill --opt_scorenet --opt_train_delta_steps 4 --opt_modeltype fakegrad --opt_fixbug2 --opt_ebm_lr 0.0003 --opt_train_sgd_steps 1 --opt_train_step_size 1.0 --opt_direction_n_layers 6 --test --evaluate --opt_Tsgd_steps 1 --opt_Tstep_size 0.8 --opt_Tsearch_lat 10 --opt_Tsearch_len 3 --opt_Tteacher_rescore

zomux commented 4 years ago

WMT 14

run_small python lanmt/run_ebm.py --root $HOME/data/wmt14_ende_fair --opt_dtok wmt14_fair_ende --opt_latentdim 8 --opt_hiddensz 512 --opt_embedsz 512 --opt_batchtokens 8192 --opt_distill --opt_scorenet --opt_train_delta_steps 4 --opt_modeltype realgrad --opt_losstype original --opt_fixbug2 --opt_ebm_lr 0.0003 --opt_train_sgd_steps 1 --opt_train_step_size 1.0 --opt_direction_n_layers 6 --opt_priorl 6 --opt_decoderl 6 --opt_heads 8 --test --evaluate --opt_Tsgd_steps 1 --opt_Tsearch_lat 10 --opt_Tsearch_len 3 --opt_Tteacher_rescore