Open ntucz opened 1 month ago
这里能看到自定义的agent已经有值返回,但是最终控制台打印如下:
agent有返回值的情况下为何又调用一次http://10.23.67.199:8000/v1/chat/completions(这里其他服务器上启动的chatglm3-6b) 总之最后没有返回agent实际返回的内容
我也发现好像是调用了两次,我还碰到了这个问题,不知道题主碰到没,也是调agent工具
你好,你们有尝试过把服务端agent的全部输出结果输出到请求端吗,curl -X后输出这种
有,啥问题?
这个我也碰到了,o(╥﹏╥)o
这里能看到自定义的agent已经有值返回,但是最终控制台打印如下:
agent有返回值的情况下为何又调用一次http://10.23.67.199:8000/v1/chat/completions(这里其他服务器上启动的chatglm3-6b) 总之最后没有返回agent实际返回的内容