为GPT/GLM等LLM大语言模型提供实用化交互接口,特别优化论文阅读/润色/写作体验,模块化设计,支持自定义快捷按钮&函数插件,支持Python和C++等项目剖析&自译解功能,PDF/LaTex论文翻译&总结功能,支持并行问询多种LLM模型,支持chatglm3等本地模型。接入通义千问, deepseekcoder, 讯飞星火, 文心一言, llama2, rwkv, claude2, moss等。
GNU General Public License v3.0
62.28k
stars
7.76k
forks
source link
[Feature]: Yi_34B_Chat模型接入 #1519
Open
Dolphin4mi opened 5 months ago
Class | 类型
大语言模型
Feature Request | 功能请求
https://modelscope.cn/models/AI-ModelScope/Yi_34B_Chat_2bit/summary。这个可以在11G的显存上跑,听过yi-34B很能打,不知道有没有可能接入。