kx-Huang / ChatGPT-on-WeChat

🤖️ Deploy GPT-4o ChatGPT on your WeChat within 2 steps! 两步在云端部署你的微信ChatGPT聊天机器人!🤖️
https://railway.app/template/zKIfYk
ISC License
781 stars 354 forks source link

关于上下文能否实现的问题 #46

Closed xiaotao44 closed 1 year ago

xiaotao44 commented 1 year ago

作者你好,在之前问题看到说GPT3.0不支持上下文功能,但是我看到别人类似搭建微信机器人的代码可以实现(参考https://github.com/zhayujie/chatgpt-on-wechat/issues/43),请问该项目是否也可以呢?and在哪里可以设置呢?

kx-Huang commented 1 year ago

你好,我阅读了他的源码,他的实现是将历史消息全部记录下来,并且一次性发给GPT-3, 再获取新的回答,由此实现的(伪)上下文对话。

但是,缺点在于,GPT-3一次接受的信息越多,回复越慢(可能质量更低),并且上下文最多纪录4000个token,超过一定字符会抛弃最早的语境。另外,随着消息记录的增加,回复也会相对更慢。当然,这是功能和效率的tradeoff,不过就目前来说,本项目主要目的在于更稳定、更迅速的回答,帮助使用者更有效率的学习工作,而非娱乐。

我认为之后本项目可以加入这个功能,欢迎提交pull-request。