Open InternetBugs opened 7 months ago
通过对接one-api实现了接入其他家大语言模型,但是各家大语言模型对max_tokens限制不同,我看代码里都是统一写死了1024,能不能支持一下自定义?
通过对接one-api实现了接入其他家大语言模型,但是各家大语言模型对max_tokens限制不同,我看代码里都是统一写死了1024,能不能支持一下自定义?