能否支持根据模型，自定义max_tokens

chatgpt-web-dev / chatgpt-web

A third-party ChatGPT Web UI page built with Express and Vue3, through the official OpenAI completion API. / 用 Express 和 Vue3 搭建的第三方 ChatGPT 前端页面, 基于 OpenAI 官方 completion API.

https://chatgpt-web.dev

MIT License

1.6k stars 440 forks source link

能否支持根据模型，自定义max_tokens #416

Open InternetBugs opened 7 months ago

InternetBugs commented 7 months ago

通过对接one-api实现了接入其他家大语言模型，但是各家大语言模型对max_tokens限制不同，我看代码里都是统一写死了1024，能不能支持一下自定义？