search

Tencent / TurboTransformers

a fast and user-friendly runtime for transformer inference (Bert, Albert, GPT2, Decoders, etc) on CPU and GPU.
Other
1.48k stars 198 forks source link

albert和Roberta有c++的推理示例吗 #229

Open zejunwang1 opened 3 years ago

zejunwang1 commented 3 years ago

albert和Roberta有c++的推理示例吗

feifeibear commented 3 years ago

没有，因为它们的embedding和bert不一样，所以他们的embedding没有用C++实现，用的pytorch的layer，如果你把它的embedding实现了，就可以全部用C++推理了。