THUDM / ChatGLM3

ChatGLM3 series: Open Bilingual Chat LLMs | 开源双语对话语言模型
Apache License 2.0
13.44k stars 1.56k forks source link

tools_using_demo中的openai_api_demo.py,stream等于True的时候 finish_reason 不出现"function_call" #1311

Open guolushi-7 opened 2 months ago

guolushi-7 commented 2 months ago

System Info / 系統信息

操作系统:Ubuntu 20.04 python:3.10 cuda:12.0 transformers:4.41.0

Who can help? / 谁可以帮助到您?

No response

Information / 问题信息

Reproduction / 复现过程

用tools_using_demo/openai_api_demo.py做测试 1723693172987 但是输出结果是: 1723693237081 输出这个结果就会结束

Expected behavior / 期待表现

是还需要配置什么吗

zRzRzRzRzRzRzR commented 1 month ago

fc应该没有stream,GLM-4的代码有这个功能,但是适配的是GLM-4模型