cssxsh / mirai-openai-plugin

Mirai Console OpenAI ChatBot 插件
GNU Affero General Public License v3.0
130 stars 14 forks source link

feat: 支持修改API地址 #51

Open Dituon opened 11 months ago

Dituon commented 11 months ago

背景

issue #36

mirai论坛 2584/7

PandragonXIII commented 11 months ago

问答开始提示语好像没了;结束提示语也没办法改。目前发现这两个问题

misaka10032w commented 3 months ago

deepseek在响应数组里面的Usage加入了两个新的键

在 API 返回的 usage 中,增加了两个字段,帮助用户实时监测缓存的命中情况:

prompt_cache_hit_tokens:本次请求的输入中,缓存命中的` tokens 数(0.1 元 / 百万 tokens)

prompt_cache_miss_tokens:本次请求的输入中,缓存未命中的` tokens 数(1 元 / 百万 tokens)

因为插件没对这两个键做处理,所以会报 io.ktor.serialization.JsonConvertException: Illegal input: Unexpected JSON token at offset xxxx: Encountered an unknown key 'prompt_cache_hit_tokens' at path: $.usage.total_tokens Use 'ignoreUnknownKeys = true' in 'Json {}' builder to ignore unknown keys. 感觉可以在Usage数据类加上 @SerialName("prompt_cache_hit_tokens") val promptCacheHitTokens: Int = 0, @SerialName("prompt_cache_miss_tokens") val promptCacheMissTokens: Int = 0 来简单处理一下