Open guolushi-7 opened 2 months ago
操作系统:Ubuntu 20.04 python:3.10 cuda:12.0 transformers:4.41.0
No response
用tools_using_demo/openai_api_demo.py做测试 但是输出结果是: 输出这个结果就会结束
是还需要配置什么吗
fc应该没有stream,GLM-4的代码有这个功能,但是适配的是GLM-4模型
System Info / 系統信息
操作系统:Ubuntu 20.04 python:3.10 cuda:12.0 transformers:4.41.0
Who can help? / 谁可以帮助到您?
No response
Information / 问题信息
Reproduction / 复现过程
用tools_using_demo/openai_api_demo.py做测试 但是输出结果是: 输出这个结果就会结束
Expected behavior / 期待表现
是还需要配置什么吗