deanxv / coze-discord-proxy

代理Discord对话Coze-Bot,实现以API形式请求GPT4模型,提供对话、文生图、图生文、知识库检索等功能。
GNU General Public License v3.0
3.62k stars 1.04k forks source link

处理长请求 #38

Closed tkizm1 closed 8 months ago

tkizm1 commented 9 months ago

例行检查

功能描述

有时回复时间过长,会导致vercel无法处理

Your function was stopped as it did not return an initial response within 25s

应用场景 兼容vercel应用

deanxv commented 9 months ago

如果部署时环境变量里的各类超时参数没有定义的话,默认超时时间为5分钟,基本足够返回的了。

你可以尝试使用postman等接口调试工具验证一下。

或者使用这个也同样是vercel部署的NextChat

如果可以的话代表可能是你的vercel或者NextChat端配置了某些参数影响到了超时时间。

Baozhi888 commented 9 months ago

你应该也套了CF吧,关掉域名代理试试看,我的关掉后一切正常,回头再找下CF配置的问题

tkizm1 commented 8 months ago

没有套cf,直接连的vercel域名 nextchat也这个问题

{
  "error": {
    "code": "504",
    "message": "An error occurred with your deployment"
  }
}
tkizm1 commented 8 months ago

我的请求内容是 画一只小猫 目前只有画图特别慢

deanxv commented 8 months ago

我的请求内容是

画一只小猫

目前只有画图特别慢

画图是比较慢的,如果仅仅只有lobeChat出现问题的话,可以排查下是不是lobeChat中有哪些地方设置了超时时间什么的,翻阅一下文档

tkizm1 commented 8 months ago

不只是lobe,NextChat 也返回504

deanxv commented 8 months ago

如果部署时环境变量里的各类超时参数没有定义的话,默认超时时间为5分钟,基本足够返回的了。

你可以尝试使用postman等接口调试工具验证一下。

或者使用这个也同样是vercel部署的NextChat

如果可以的话代表可能是你的vercel或者NextChat端配置了某些参数影响到了超时时间。

首先,你可以采用postman请求试下,如果可以请求通那就代表不是服务的问题,那你就可以使用我上面提供的NextChat地址,如果也可以,那就可以排除既不是服务的问题也不是NextChat的问题。

deanxv commented 8 months ago

如果不是该服务的问题,请提issue至对话面板的github项目中。

tkizm1 commented 8 months ago

看起来上游也没有解决方案 https://github.com/lobehub/lobe-chat/issues/1079 留给后人做个线索

CellLz commented 7 months ago

你应该也套了CF吧,关掉域名代理试试看,我的关掉后一切正常,回头再找下CF配置的问题

我想请教一下如何关掉cf,就是docker中部署了本项目之后,如果不套cf-tunnel的话怎么把api接口从http转成https?如果不转https的话好像在chat-next-web中不能使用(我的vps上暂时不考虑安装nginx等反代工具了)在chat-next-web上还是需要套一下cdn的,否则没有加密不安全。(我的情况是把chat-next-web和coze-discord-proxy都部署在同一台vps上)