search

Tencent / TurboTransformers

a fast and user-friendly runtime for transformer inference (Bert, Albert, GPT2, Decoders, etc) on CPU and GPU.
Other
1.48k stars 198 forks source link

支持bert的变种吗？ #265

Open hitchcockx opened 2 years ago

hitchcockx commented 2 years ago

我们有一个bert模型，但是是基于标准bert模型，做了一些网络结构上的修改，可以支持吗？ 我现在运行模型，好像报错： AttributeError: 'RecursiveScriptModule' object has no attribute 'embeddings'

feifeibear commented 2 years ago

支持的，可以让embedding用pytorch运行。你参考一下roberta例子即可。