modelscope / FunASR

A Fundamental End-to-End Speech Recognition Toolkit and Open Source SOTA Pretrained Models, Supporting Speech Recognition, Voice Activity Detection, Text Post-processing etc.
https://www.funasr.com
Other
4.46k stars 493 forks source link

离线模型和在线模型有什么区别,cache里面有什么内容是在线模型需要缓存的。 #1824

Closed lidingke closed 4 days ago

lidingke commented 2 weeks ago
  1. runtime/python/onnxruntime/demo_vad_online.py中vad模型的调用每次都需要传个in_cache进去,如果我要将vad模型封装成一个http的接口,这样就需要知道每次调用这个接口缓存了哪些状态。
  2. 如果我不用online模型,只用offline模型,vad和模型的online版本会有哪些效果上的差异吗?
  3. 同样的问题paraformer的online模型也有。
Ignalxy commented 6 days ago

服务端保存对应会话的cache就可以了