buppt / ChineseNER

中文命名实体识别,实体抽取,tensorflow,pytorch,BiLSTM+CRF
1.39k stars 394 forks source link

并发情况下,响应时间很慢 #43

Closed chmaojian closed 3 years ago

chmaojian commented 3 years ago

将这个模型用到了项目中,开发了一个基于flask框架的网页服务。在并发的情况下(例如:同时有100个输入),用jmeter测试,响应时间(不算模型的加载时间,只有实体抽取部分的时间)很慢。吞吐量最高只能达到12.2/sec,响应时间大约是8050ms。 有人做这方面的优化吗?