PlexPt / awesome-chatgpt-prompts-zh

ChatGPT 中文调教指南。各种场景使用指南。学习怎么让它听你的话。
https://chat.aimakex.com/
MIT License
52.78k stars 13.52k forks source link

现在最大的问题应该是ChatGPT的文本上限。 #43

Open valithria opened 1 year ago

valithria commented 1 year ago

中文文本的上限大概在600字不到,经常是550左右就自动断开,文章刚到中间就没了,能有一千都好🙄找了很久都没找到解决办法,PLUS都无法解决…出个无文本字符数量限制的会员都好,救救孩子😭 顺便还发现了个新问题,单个chat里的文字数量在16万左右就会无法继续,已经玩坏一个。

Nyarlathote commented 1 year ago

打个继续说不就行了吗

danmuLLtoo commented 1 year ago

我感觉最大的问题是他的健忘,经常说着说着就忘了之前说的话或者设定,没开plus,不知道plus解决了这个问题没有

aistha commented 1 year ago

我一般会说“接着上文最后一个字继续生成”,同时也可以补充要求。 另外在设定时可以加入“始终是开放式的并且可以继续”之类的话。 健忘的话,一般用“总结前文”“保持角色”之类的话放在开头,帮着强化记忆。如果嫌它把总结生成出来,可以再加上“不用显示出来” 最后,plus不解决健忘

shawlj commented 1 year ago

昨天刚刚试验,中文字符测试最多18行不含空行。然后按网友方式让它继续写,但上下文乱套了。。Plus版有字数限制吗?

aistha commented 1 year ago

Plus版有字数限制。

littlefox0990 commented 1 year ago

确实,我也发现这个问题了,我一般就是打一个“继续往下写”,他接下来输出的东西和之前写东西细节上对不太上,不过大体剧情上还是能承接的,脑补一下凑合着用吧,希望以后的版本能增加单次文本输出的限制

B-lackLuster commented 1 year ago

Plus会续着说,普通版有时候不会

xihajun commented 1 year ago

得理解原理,一个中文的token很重的

weekdayjast commented 1 year ago

可以试试我这个,通过【人格设定】固定开始上下文,加上最多10条上下文,超过2048自动去除上下文 1678593880209

xihajun commented 1 year ago

可以使用embeddings功能,把文字转成向量储存起来,https://community.openai.com/t/how-can-i-use-embeddings-with-chat-gpt-3-5-turbo/86759

zombieyang commented 1 year ago

可以使用embeddings功能,把文字转成向量储存起来,https://community.openai.com/t/how-can-i-use-embeddings-with-chat-gpt-3-5-turbo/86759

看了下这个,本质上是给chatgpt外挂了一个记忆体。但chatgpt一次最多能处理的token没有变,还是只有4096token,也不能压缩文本体积。

实现这个外挂记忆体还是有一些开发成本的。不过github上有一个开源实现:https://github.com/jerryjliu/llama_index

1JayPeng commented 1 year ago

参考@aistha 始终是开放式的并且可以继续,如果你突然被截断输出,那当你输出被截断后收到我的指令:继续 之后你会接着输出你被截断的那部分内容,无需继续生成 可以解决问题,当当一个继续以及不够了不提前设定的话