search

wenet-e2e / wenet

Production First and Production Ready End-to-End Speech Recognition Toolkit
https://wenet-e2e.github.io/wenet/
Apache License 2.0
4.06k stars 1.06k forks source link

python wenetruntime 构建服务端api #1696

Closed hzfei closed 1 year ago

hzfei commented 1 year ago

想在服务器上用python wenetruntime +sanic部署个http接口，如果是用streaming方式解码，看到decode有一个参数last。可是在多用户请求的时候，怎么知道是哪个用户的last?

robin1001 commented 1 year ago
  1. 多用户，不同用户的请求是独立管理的。
  2. 用户发的最后一包语音时， last 就是 true。
hzfei commented 1 year ago

服务端只能实例一个decoder对象。面对不同用户的请求，A用户发了(wav_a_1,False) ；B用户发了（wav_b_2,True）。这时候decoder分得清A，B吗？

xingchensong commented 1 year ago

建议使用c++ runtime搭服务，天然支持多线程和线程隔离（用户隔离）

hzfei commented 1 year ago

多谢