zomux / lanmt-ebm

lanmt ebm
11 stars 1 forks source link

fix the bug in TransformerCrossEncoderLayer #5

Open zomux opened 4 years ago

zomux commented 4 years ago

./slurm/sbatch_8gpu python lanmt/run.py -tb --root $HOME/data/wmt14_ende_fair --opt_fixbug1 --opt_fixbug2 --opt_dtok wmt14_fair_ende --opt_batchtokens 4096 --opt_distill --opt_annealbudget --opt_klbudget 10.0 --opt_beginanneal 20000 --opt_fastanneal --opt_x3longertrain --opt_zeroprior --train