Open HIT-cwh opened 2 months ago
序列并行设为 2 时的启动命令： srun -p llm_razor --job-name=intern7b --quotatype=auto --gres=gpu:8 --ntasks=8 --ntasks-per-node=8 --cpus-per-task=16 --kill-on-bad-exit=1 python train_with_img.py --config configs/ffs/ffs_img_train_sp2.yaml loss 情况：
srun -p llm_razor --job-name=intern7b --quotatype=auto --gres=gpu:8 --ntasks=8 --ntasks-per-node=8 --cpus-per-task=16 --kill-on-bad-exit=1 python train_with_img.py --config configs/ffs/ffs_img_train_sp2.yaml
序列并行设为 1 时的启动命令： srun -p llm_razor --job-name=intern7b --quotatype=auto --gres=gpu:4 --ntasks=4 --ntasks-per-node=4 --cpus-per-task=24 --kill-on-bad-exit=1 python train_with_img.py --config configs/ffs/ffs_img_train.yaml loss 情况：
srun -p llm_razor --job-name=intern7b --quotatype=auto --gres=gpu:4 --ntasks=4 --ntasks-per-node=4 --cpus-per-task=24 --kill-on-bad-exit=1 python train_with_img.py --config configs/ffs/ffs_img_train.yaml
序列并行设为 2 时的启动命令：
srun -p llm_razor --job-name=intern7b --quotatype=auto --gres=gpu:8 --ntasks=8 --ntasks-per-node=8 --cpus-per-task=16 --kill-on-bad-exit=1 python train_with_img.py --config configs/ffs/ffs_img_train_sp2.yamlloss 情况：序列并行设为 1 时的启动命令：
srun -p llm_razor --job-name=intern7b --quotatype=auto --gres=gpu:4 --ntasks=4 --ntasks-per-node=4 --cpus-per-task=24 --kill-on-bad-exit=1 python train_with_img.py --config configs/ffs/ffs_img_train.yamlloss 情况：