Open xy3xy3 opened 10 months ago
如果直接修改 会产生什么报错?
chatglm3的history格式变了,在bridge_chatglm.py里改了_model_name_
后还需要修改历史消息处理部分,我参考这个项目里其他模型的写法写了个,可以正常对话。
predict_no_ui_long_connection函数
# 处理历史信息
conversation_cnt = len(history) // 2
history_feedin = [{"role": "system", "content": sys_prompt}]
if conversation_cnt:
for index in range(0, 2*conversation_cnt, 2):
what_i_have_asked = {}
what_i_have_asked["role"] = "user"
what_i_have_asked["content"] = history[index]
what_gpt_answer = {}
what_gpt_answer["role"] = "assistant"
what_gpt_answer["content"] = history[index+1]
if what_i_have_asked["content"] != "":
if what_gpt_answer["content"] == "": continue
history_feedin.append(what_i_have_asked)
history_feedin.append(what_gpt_answer)
else:
history_feedin[-1]['content'] = what_gpt_answer['content']
predict函数
# 处理历史信息
conversation_cnt = len(history) // 2
history_feedin = [{"role": "system", "content": system_prompt}]
if conversation_cnt:
for index in range(0, 2*conversation_cnt, 2):
what_i_have_asked = {}
what_i_have_asked["role"] = "user"
what_i_have_asked["content"] = history[index]
what_gpt_answer = {}
what_gpt_answer["role"] = "assistant"
what_gpt_answer["content"] = history[index+1]
if what_i_have_asked["content"] != "":
if what_gpt_answer["content"] == "": continue
history_feedin.append(what_i_have_asked)
history_feedin.append(what_gpt_answer)
else:
history_feedin[-1]['content'] = what_gpt_answer['content']
3楼写的可用,Great job, thanks!
按照3楼的做好了,但是翻译markdown文件时,返回结果只有文件头,内容为空,我解决不了。
按照3楼的做好了,但是翻译markdown文件时,返回结果只有文件头,内容为空,我解决不了。
3楼只解决了对话之类的,翻译markdown这些只能等适配了。
按照3楼的做好了,但是翻译markdown文件时,返回结果只有文件头,内容为空,我解决不了。
我自己尝试这个插件是没有问题的,但是有并发问题。不过作者在frontier分支已经添加了chatglm3,可以去看看。
Class | 类型
None
Feature Request | 功能请求
chatglm3已经更新:
https://github.com/THUDM/ChatGLM3 更强大的基础模型: ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示,ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能。 更完整的功能支持: ChatGLM3-6B 采用了全新设计的 Prompt 格式,除正常的多轮对话外。同时原生支持工具调用(Function Call)、代码执行(Code Interpreter)和 Agent 任务等复杂场景。 更全面的开源序列: 除了对话模型 ChatGLM3-6B 外,还开源了基础模型 ChatGLM3-6B-Base、长文本对话模型 ChatGLM3-6B-32K。以上所有权重对学术研究完全开放,在填写问卷进行登记后亦允许免费商业使用。
直接改chatglm.py的代码不可用
直接修改gpt_academic的chatglm2调用部分的路径改为glm3无法使用,可能需要你们官方适配