GUI for ChatGPT API and many LLMs. Supports agents, file-based QA, GPT finetuning and query with web search. All with a neat UI.
GNU General Public License v3.0
15.28k
stars
2.29k
forks
source link
[本地部署]: chatglm2-6b本地模型无法使用,确认是在models/文件夹下 #1114
Open
MoonShadow1976 opened 6 months ago
是否已存在现有反馈与解答?
是否是一个代理配置相关的疑问?
错误描述
ai提示说是值与MODEL_METADATA字典不匹配,但是并没有字符上的异常。
复现操作
正常部署,创建虚拟环境,git抓取并配置使用chatglm2-6b模型。
错误日志
运行环境
补充说明
cuda版本3.11