search

milvus-io / milvus-sdk-java

Java SDK for Milvus.
https://milvus.io
Apache License 2.0
366 stars 150 forks source link

milvus集群版search压力倾斜 #911

Open WWJ002233 opened 1 month ago

WWJ002233 commented 1 month ago

我部署了milvus集群版，一共5个node。 启动了一个java服务使用sdk压测milvus的search，但是只有一个node的cpu水位大幅上涨，其他node变化不大。 这是为什么？

xiaofan-luan commented 1 month ago

是否是因为索引建不过来，数据都在delegator上，无法balance？可以使用birdwatcher看看。 多几个shard能缓解，但是最好还是indexnode要够

WWJ002233 commented 1 month ago

是否是因为索引建不过来，数据都在delegator上，无法balance？可以使用birdwatcher看看。 多几个shard能缓解，但是最好还是indexnode要够

我部署的是2.2版本，只有一个proxy的cpu水位上涨，而且一直是同一个。我开了两个java服务去压测，有两个proxy的cpu水位上涨。sdk是有长链接吗？

yhmo commented 1 month ago

sdk的连接基本上是长连接，proxy如果有多个，那它们的地址都是不同的。客户端连接不同的proxy就应该连接不同的proxy地址。如果只有一个proxy在忙，那说明你的客户端全都连的同一个proxy。milvus本身并没有proxy的balance机制。

xiaofan-luan commented 1 month ago

如果是proxy，你需要在proxy之前加负载均衡。 通常一个sdk不应该可以打爆一台proxy的cpu，也可以通过增加proxy的pod大小提升性能