Open formero009 opened 5 months ago
问题出现过程: 使用tool calls调用gpt3.5, 直接复制的demo的代码,唯一改动是把生成单词改成了查询天气(后面也试了原始的demo,还是会出现同样的问题)通过问gpt,今天天气怎么样?来调用后端自定义的查询天气的方法。
问题: 先调用gpt,会返回一个调用tool calls的消息,拿到参数调用天气查询方法,携带方法返回的内容再次请求gpt时,有时会出现大量重复的回复,会一直回复内容,截图如下:
但是偶尔又是正常的:
正常的时候是会调用listener中的onClose()方法的
不正常的时候是连着调用好多次之后才会close,排查了很久没看出是哪里的问题,我甚至直接拉了最新的代码,跑的里面的 v_1_1_2 中的OpenAiClientTest.streamToolsChat方法,也会偶尔出现这个问题。
有没有大佬遇到过,求解惑
问题出现过程: 使用tool calls调用gpt3.5, 直接复制的demo的代码,唯一改动是把生成单词改成了查询天气(后面也试了原始的demo,还是会出现同样的问题)通过问gpt,今天天气怎么样?来调用后端自定义的查询天气的方法。
问题: 先调用gpt,会返回一个调用tool calls的消息,拿到参数调用天气查询方法,携带方法返回的内容再次请求gpt时,有时会出现大量重复的回复,会一直回复内容,截图如下:
但是偶尔又是正常的:
正常的时候是会调用listener中的onClose()方法的
不正常的时候是连着调用好多次之后才会close,排查了很久没看出是哪里的问题,我甚至直接拉了最新的代码,跑的里面的 v_1_1_2 中的OpenAiClientTest.streamToolsChat方法,也会偶尔出现这个问题。
有没有大佬遇到过,求解惑