[Bug]: 最新版本地加载Qwen无法并发，如果重新加载界面就会重新加载模型，爆显存 - Githubissues

GaiZhenbiao / ChuanhuChatGPT

GUI for ChatGPT API and many LLMs. Supports agents, file-based QA, GPT finetuning and query with web search. All with a neat UI.

https://huggingface.co/spaces/JohnSmith9982/ChuanhuChatGPT

GNU General Public License v3.0

15.07k stars 2.28k forks source link

[Bug]: 最新版本地加载Qwen无法并发，如果重新加载界面就会重新加载模型，爆显存 #1093

Open Evantso opened 3 months ago

Evantso commented 3 months ago

这个bug是否已存在现有issue了？

[X] 我确认没有已有issue，且已阅读常见问题。

错误表现

最新版本地加载Qwen无法并发，如果重新加载界面就会重新加载模型，爆显存

https://github.com/GaiZhenbiao/ChuanhuChatGPT/assets/97641405/97b4bd55-d96b-4587-aa38-76adc8f9e478

复现操作

1.正常本地部署 2.使用Qwen模型 3.单独点开一个界面没有问题 4.重复再点开一个界面后模型重新加载，旧模型不清除，导致显存溢出

错误日志

No response

运行环境

OS: ubuntu 20.04
Browser: chrome
Gradio version: latest
Python version: 3.10

帮助解决

[ ] 我愿意协助解决！

补充说明

No response