search

KroMiose / nonebot_plugin_naturel_gpt

一个基于NoneBot框架的Ai聊天插件，对接OpenAi文本生成接口，实现了机器人的人格 自定义/切换，聊天记忆等功能
Apache License 2.0
467 stars 51 forks source link

nonebot消息队列会卡住 #167

Closed gunh4mmer closed 1 year ago

gunh4mmer commented 1 year ago

QQ截图20230602103244 如上图，go-cqhttp已经收到了31分32分的消息，但是nonebot卡住了，如果按下ctrl+c会批量接受信息如下图 QQ截图20230602103244

KroMiose commented 1 year ago

偶尔会出现的情况，应该是nb被未知原因阻塞了，具体暂时不明

gunh4mmer commented 1 year ago

偶尔会出现的情况，应该是nb被未知原因阻塞了，具体暂时不明

另外想问个问题，使用谷歌搜索扩展模块时，会出现如下图的情况 QQ截图20230602151121 QQ图片20230602151127

请问这是免费的chatgpt3.5本身的限制回复token数吗，需要升级到4.0？或者说有没有什么办法可以截断（？）bot搜索的内容长度，我在config里面找到了REPLY_MAX_TOKENS（即生成回复的最大 token 数）且已经拉大到了2048仍然提示>1024，但是我记得chatgpt3.5的回复限制是4097，所以很疑惑

gunh4mmer commented 1 year ago

偶尔会出现的情况，应该是nb被未知原因阻塞了，具体暂时不明

另外想问个问题，使用谷歌搜索扩展模块时，会出现如下图的情况 QQ截图20230602151121 QQ图片20230602151127

请问这是免费的chatgpt3.5本身的限制回复token数吗，需要升级到4.0？或者说有没有什么办法可以截断（？）bot搜索的内容长度，我在config里面找到了REPLY_MAX_TOKENS（即生成回复的最大 token 数）且已经拉大到了2048仍然提示>1024，但是我记得chatgpt3.5的回复限制是4097，所以很疑惑

或者是否与我选择的是图片输出有关（按理来说应该没关）

KroMiose commented 1 year ago

4097的token是请求+回复总量，大部分是预留给行为设定和聊天记录等prompt的，实际回复并没有这么多，并且中文内容消耗的token量巨大(2-3token/字)

gunh4mmer commented 1 year ago

4097的token是请求+回复总量，大部分是预留给行为设定和聊天记录等prompt的，实际回复并没有这么多，并且中文内容消耗的token量巨大(2-3token/字)

明白了，感谢，我刚刚注意到，nonebot昨天发布了2.0稳定版的更新，也许跟上面的问题有关，不过还没发布win的版本，只能说等等了