能不能在设置里增加个流式输出开关。。。

lin2025 / gpt3.5

LinGPT, a ChatGPT (GPT-3.5 / GPT-4) webpage with just a single HTML file. 只有一个html文件的ChatGPT聊天网页，零门槛，10秒搞定。GPT4 多Key轮询 Auto Key Rotation 支持第三方Key 兼容代理平台 Supports proxy / third-party keys

https://lin2025.github.io/gpt3.5/

GNU General Public License v3.0

61 stars 7 forks source link

能不能在设置里增加个流式输出开关。。。 #4

Open huaxianhu opened 11 months ago

huaxianhu commented 11 months ago

我还是喜欢流式不然返回等大半天烦躁╭(╯ε╰)╮

lin2025 commented 11 months ago

没有流式的原因只有一个... 我没学会（ＴДＴ）搞不定

早期功能不多的时候，我就有尝试过改流式输出，结果没成功。我是想一点学一点，没有什么框架/架构，导致功能代码散乱。当我想改流式的时候，发现有很多问题: "知识盲区太多"、"有太多要改的地方"、"已有功能会失效，需要重写，但又有点搞不定"... 然后就放弃了。

抱歉啊，现在LinGPT的功能和代码量翻了三四倍，以我的个人能力，完全无法实现流式了。对于其他GPT项目来说可能会很容易改成流式/增加流式，但我这个怕是不好改，改后指不定一些功能会产生不少莫名其妙的Bug，体验会更差。

没有实现/应用stream，确实挺遗憾的💔💔

huaxianhu commented 11 months ago

可以参考别的那种php项目，用php进行流式输出会比html简单，github上就有一个php文件实现gpt流式访问，只是那个ui太丑了我是找了半个月才找到你这个ui很漂亮的，就是我还不会如何把html代码转php 如果是php的话就能后台设置默认key了，请求和输出Api也可以在后台实现了

lin2025 commented 11 months ago

🫣我...其实是个萌新。我之前有浅玩过虚拟主机，但仅尝试过传个简单的html单页模板或搭个wordpress博客，然后...然后就没了...不会php代码，没玩过python，连js、css也是这次一时兴起现学的😂。不懂后台，可能连搬运搭建个后台都成问题，所以OpenAI官方精准计算tokens的方案(cl100k_base 编码器)我都没办法加入，只能曲线救国鼓捣出一个估算的方法。前几个月能把想要的功能都实现出来，自己都感觉有些不可思议，但感觉瓶颈也到了。学习成本太高，所以我一直都在用最简单的/已研究过的技术去实现功能，比如用大量的"下拉"控件去代替"开关"等控件，就是因为我只研究了下拉菜单的控件。

😅所以，我不说你可能都不会相信，你说的这些: 看懂php、修改php、搭建/配置后台、后台相关的...等等，我都完全不会，甚至没接触过。