search

THUDM / ChatGLM-6B

ChatGLM-6B: An Open Bilingual Dialogue Language Model | 开源双语对话语言模型
Apache License 2.0
40.47k stars 5.19k forks source link

以API方式部署模型，最大用户连接数是多少？ #1422

Open CZP686 opened 10 months ago

CZP686 commented 10 months ago

Is your feature request related to a problem? Please describe.

想问一下如果以API方式部署ChatGLM-6B模型，那么API的最大连接数是多少呢？

Solutions

目前接了3个项目还能够跑

Additional context

No response