search

macanv / BERT-BiLSTM-CRF-NER

Tensorflow solution of NER task Using BiLSTM-CRF model with Google BERT Fine-tuning And private Server services
https://github.com/macanv/BERT-BiLSMT-CRF-NER
4.67k stars 1.25k forks source link

同一机器部署多个服务时卡住 #354

Open LeoWood opened 4 years ago

LeoWood commented 4 years ago

请问有没有试过在一台机器上开启多个服务（设置不同的端口），有一台机器最多开启5个服务，后面再开就一直停留在load pb file最后一步，一直没有出现ready and listening。查看GPU显存还有机器内存都还有很多空闲，不知道为什么。

macanv commented 4 years ago

我这边测试没问题，不建议使用socket启动服务，推荐使用flask的http 服务：https://github.com/macanv/BERT-BiLSTM-CRF-NER/blob/master/bert_base/server/simple_flask_http_service.py