Calcium-Ion / new-api

AI模型接口管理与分发系统,支持将多种大模型转为OpenAI格式调用、支持Midjourney Proxy、Suno、Rerank,兼容易支付协议,仅供个人或者企业内部管理与分发渠道使用,请勿用于商业用途,本项目基于One API二次开发。
https://nekoapi.com
Apache License 2.0
3.08k stars 761 forks source link

请求延迟高问题 #465

Closed KamiPasi closed 3 weeks ago

KamiPasi commented 3 weeks ago

例行检查

问题描述 当数据库延迟比较高的时候, 高并发请求延迟也会变高, 即使开了redis的情况下 怀疑可能是因为每次请求都会同步用户余额造成的 根据用户的余额来判断是不是每次请求都同步余额不知道是否可行 让gpt分析了一下不知道对不对:

延迟问题分析:

延迟的具体情形:

  1. 同时操作(竞争读写):

    • 如果 CacheUpdateUserQuota 正在写入数据,且这个过程需要一点时间(如数据库读操作),此时有可能 CacheGetUserQuota 会稍微等待写操作的完成。
  2. 一般情况下:

    • 大多数情况下,这两个操作并不会显著影响对方的性能,除非在极端高并发场景中,都操作相同的缓存键。
Calcium-Ion commented 3 weeks ago

肯定是您自己的配置问题而不是redis的问题

KamiPasi commented 3 weeks ago

肯定是您自己的配置问题而不是redis的问题

啥配置, 我没改过redis的配置