Closed 8u6cherhu closed 5 months ago
我环境变量CUSTOM_MODELS配置了模型,但是不能配置模型的最大token数量,前端滑块只能滑到2048
好的 后面默认改到 4k
现在 自定义默认 到8k可调了
大佬您好,我是用的oenapi的claude3.5,这个模型最大回复token可以到8192,但是前端目前还是只能拉到4096,谢谢大佬
我环境变量CUSTOM_MODELS配置了模型,但是不能配置模型的最大token数量,前端滑块只能滑到2048