search

THUDM / VisualGLM-6B

Chinese and English multimodal conversational language model | 多模态中英双语对话语言模型
Apache License 2.0
4.07k stars 415 forks source link

模型是模型并行的，主进程会额外占用一个master_port #219

Open llliuxz opened 1 year ago

llliuxz commented 1 year ago

这个模型是模型并行的，主进程会额外占用一个master_port。找到可用端口后，这个端口可能被其它服务占用，导致模型启动失败，这块儿有什么规避的方法吗？ 代码在 site-packages/sat/arugments.py 42c83d09734e6baf84d5f8201f7e9b66

1049451037 commented 1 year ago

没看懂，模型并行怎么可能world_size == 1

Sleepychord commented 1 year ago

可以设置MASTER_PORT环境变量来手动指定。