chrisyy2003 / nonebot-plugin-gpt3

A nonebot plugin base on OpenAI API (gpt-3.5-turbo)
112 stars 16 forks source link

请求token长度大于模型最大token长度 #36

Closed SihenZhang closed 1 year ago

SihenZhang commented 1 year ago

在聊天开始时,会有概率出现请求token长度大于模型最大token长度的情况,如下图所示。

1678028941763 1678028941756
chrisyy2003 commented 1 year ago

原因是只判断了上一次的token数是否大于4096 - max_token,没有判断本次输入的内容,已经fix https://github.com/chrisyy2003/nonebot-plugin-gpt3/commit/9abf146f8e5f8f86ffe7073d1b8133a9d0ec8cea