search

Tencent / TurboTransformers

a fast and user-friendly runtime for transformer inference (Bert, Albert, GPT2, Decoders, etc) on CPU and GPU.
Other
1.49k stars 198 forks source link

Serving Framework #177

Closed hadoop2xu closed 4 years ago

hadoop2xu commented 4 years ago

paper中介绍了 Serving Framework ，这部分代码是没有开源吗？

feifeibear commented 4 years ago

不同业务中会采用不同Serving框架，没有开源的必要性，论文里采用Python Asio实现，工作量很小。

hadoop2xu commented 4 years ago

不同业务中会采用不同Serving框架，没有开源的必要性，论文里采用Python Asio实现，工作量很小。

明白了