binary-husky / gpt_academic

为GPT/GLM等LLM大语言模型提供实用化交互接口,特别优化论文阅读/润色/写作体验,模块化设计,支持自定义快捷按钮&函数插件,支持Python和C++等项目剖析&自译解功能,PDF/LaTex论文翻译&总结功能,支持并行问询多种LLM模型,支持chatglm3等本地模型。接入通义千问, deepseekcoder, 讯飞星火, 文心一言, llama2, rwkv, claude2, moss等。
https://github.com/binary-husky/gpt_academic/wiki/online
GNU General Public License v3.0
64.08k stars 7.92k forks source link

[Feature]: 加入chatglm3支持 #1212

Open xy3xy3 opened 10 months ago

xy3xy3 commented 10 months ago

Class | 类型

None

Feature Request | 功能请求

chatglm3已经更新:

https://github.com/THUDM/ChatGLM3 更强大的基础模型: ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示,ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能。 更完整的功能支持: ChatGLM3-6B 采用了全新设计的 Prompt 格式,除正常的多轮对话外。同时原生支持工具调用(Function Call)、代码执行(Code Interpreter)和 Agent 任务等复杂场景。 更全面的开源序列: 除了对话模型 ChatGLM3-6B 外,还开源了基础模型 ChatGLM3-6B-Base、长文本对话模型 ChatGLM3-6B-32K。以上所有权重对学术研究完全开放,在填写问卷进行登记后亦允许免费商业使用。

直接改chatglm.py的代码不可用

直接修改gpt_academic的chatglm2调用部分的路径改为glm3无法使用,可能需要你们官方适配

binary-husky commented 10 months ago

如果直接修改 image 会产生什么报错?

xiangsam commented 10 months ago

chatglm3的history格式变了,在bridge_chatglm.py里改了_model_name_后还需要修改历史消息处理部分,我参考这个项目里其他模型的写法写了个,可以正常对话。

healy-hub commented 10 months ago

3楼写的可用,Great job, thanks!

Dolphin4mi commented 10 months ago

按照3楼的做好了,但是翻译markdown文件时,返回结果只有文件头,内容为空,我解决不了。

healy-hub commented 10 months ago

按照3楼的做好了,但是翻译markdown文件时,返回结果只有文件头,内容为空,我解决不了。

3楼只解决了对话之类的,翻译markdown这些只能等适配了。

xiangsam commented 10 months ago

按照3楼的做好了,但是翻译markdown文件时,返回结果只有文件头,内容为空,我解决不了。

我自己尝试这个插件是没有问题的,但是有并发问题。不过作者在frontier分支已经添加了chatglm3,可以去看看。