Open Dituon opened 11 months ago
问答开始提示语好像没了;结束提示语也没办法改。目前发现这两个问题
deepseek在响应数组里面的Usage加入了两个新的键
在 API 返回的 usage 中,增加了两个字段,帮助用户实时监测缓存的命中情况:
prompt_cache_hit_tokens:本次请求的输入中,缓存命中的` tokens 数(0.1 元 / 百万 tokens)
prompt_cache_miss_tokens:本次请求的输入中,缓存未命中的` tokens 数(1 元 / 百万 tokens)
因为插件没对这两个键做处理,所以会报
io.ktor.serialization.JsonConvertException: Illegal input: Unexpected JSON token at offset xxxx: Encountered an unknown key 'prompt_cache_hit_tokens' at path: $.usage.total_tokens Use 'ignoreUnknownKeys = true' in 'Json {}' builder to ignore unknown keys.
感觉可以在Usage数据类加上
@SerialName("prompt_cache_hit_tokens")
val promptCacheHitTokens: Int = 0,
@SerialName("prompt_cache_miss_tokens")
val promptCacheMissTokens: Int = 0
来简单处理一下
背景
issue #36
mirai论坛 2584/7