Closed MasterJanus closed 4 months ago
报错信息：
docker：docker run -p 9010:8000 --gpus '"device=7"' --mount type=bind,source=/llm-use,target=/llm-use,bind-propagation=rslave -it --shm-size 2g registry.cn-hangzhou.aliyuncs.com/havenask/rtp_llm:0.1.13_cuda12 bash
启动参数：
distribute config:
报错信息：
docker：docker run -p 9010:8000 --gpus '"device=7"' --mount type=bind,source=/llm-use,target=/llm-use,bind-propagation=rslave -it --shm-size 2g registry.cn-hangzhou.aliyuncs.com/havenask/rtp_llm:0.1.13_cuda12 bash
启动参数：
distribute config: