Open huangzt opened 7 months ago
好像没有统一设置的地方,需要在用户管理里面挨个单独去做限制,这个是否可以加个统一的开关呢?统一初始限制的次数
统一初始限制提了PR,等大佬同意 #478
统一初始限制提了PR,等大佬同意 #478
这个pr还有啥问题吗?还没合并呢 哈哈
token和token并不一样,比如gpt3.5的和4的,改成算token数量其实也没解决完问题
token和token并不一样,比如gpt3.5的和4的,改成算token数量其实也没解决完问题
同意。而且还有自定义模型。 又怎么去换算额度。问题确实比较多。
统一限制token的数量,然后根据不同模型,添加一个乘数。
例如3.5 消耗token 乘数 1 gpt4 ,消耗token 乘数 2
统一限制token的数量,然后根据不同模型,添加一个乘数。
例如3.5 消耗token 乘数 1 gpt4 ,消耗token 乘数 2
这并不解决问题,反而把问题更复杂化了,他们的实际消耗并不是1比2,而且还要考虑到输入和输出的长度不同*价格不同,外加现在支持vision系列的模型了,图片又得再算。
建议将提问次数改成额度,即计算token的数量来限制使用,提问数次不好限定,能不能修改下?或者加个选项,感谢☺️