tools_using_demo中的openai_api_demo.py，stream等于True的时候 finish_reason 不出现"function_call" - Githubissues

THUDM / ChatGLM3

ChatGLM3 series: Open Bilingual Chat LLMs | 开源双语对话语言模型

Apache License 2.0

13.5k stars 1.57k forks source link

tools_using_demo中的openai_api_demo.py，stream等于True的时候 finish_reason 不出现"function_call" #1311

Open guolushi-7 opened 3 months ago

guolushi-7 commented 3 months ago

System Info / 系統信息

操作系统：Ubuntu 20.04 python：3.10 cuda：12.0 transformers：4.41.0

Who can help? / 谁可以帮助到您？

No response

Information / 问题信息

[X] The official example scripts / 官方的示例脚本
[ ] My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

用tools_using_demo/openai_api_demo.py做测试 1723693172987 但是输出结果是： 1723693237081 输出这个结果就会结束

Expected behavior / 期待表现

是还需要配置什么吗

zRzRzRzRzRzRzR commented 2 months ago

fc应该没有stream，GLM-4的代码有这个功能，但是适配的是GLM-4模型