search

bytedance / lightseq

LightSeq: A High Performance Library for Sequence Processing and Generation
Other
3.21k stars 329 forks source link

ls_torch_hf_quant_gpt2_export.py的使用问题 #508

Open wzh232894 opened 1 year ago

wzh232894 commented 1 year ago

ls_torch_hf_quant_gpt2_export.py具体怎么使用？参数中的model来自哪里？我使用从hugging face下载的gpt2-large，用pytorch_model.bin作为参数执行时许多模型状态字典是没有的。比如transformer.wte.emb_quant.clip.clip_value_max。