How should a secondary index be designed?

[sinmetal]

セカンダリインデックスはどのように設計するのがよいだろうか？

WHAT

• Does INSERT, DELETE slow if I set a lot of secondary indexes?

• Shared is indispensable for index to monotonically increasing value?

• セカンダリインデックスをたくさん設定すると、INSERT, DELETEが遅くなる？

• 単調増加する値へのインデックスはSharedが必須？

Set Shard and perform a full scan if you do a simple query

CREATE INDEX Order1MShardCreatedAtDesc
  ON Order1M (ShardCreatedAt, CreatedAt DESC)

SELECT * 
FROM Order1M@{FORCE_INDEX=Order1MShardCreatedAtDesc} 
WHERE ShardCreatedAt BETWEEN 0 AND 9
ORDER BY CreatedAt DESC 
LIMIT 10

It is quick if you acquire LIMIT by shard for each shard and rearrange

SELECT c.*
FROM (
  SELECT 
    ARRAY(
      SELECT AS STRUCT *
      FROM Order1M@{FORCE_INDEX=Order1MShardCreatedAtDesc}
      WHERE ShardCreatedAt = a.ShardCreatedAt
      ORDER BY CreatedAt DESC LIMIT 10
    ) AS ar
  FROM Order1M@{FORCE_INDEX=Order1MShardCreatedAtDesc} a
  WHERE ShardCreatedAt BETWEEN 0 AND 9
  GROUP BY ShardCreatedAt
) b, UNNEST(ar) c
ORDER BY c.CreatedAt DESC
LIMIT 10

WHY

Refs

https://cloudplatform.googleblog.com/2018/05/Sharding-of-timestamp-ordered-data-in-Cloud-Spanner.html

[sinmetal]

Q:セカンダリが多いとinsert/delete遅くなる? A:貼る時に時間はかかるけど、多いからと言って遅くなるかというとそういうわけではない。

[sinmetal]

GCPUG ShonanでRobertに聞いたら、以下のように言ってた。

INDEXが0 か 1以上でCPU利用率とPerformanceは変わる。そこから100個ぐらいまでは変わらないだろう。1000ぐらいまでいくと変わるかもしれない。
Paxos Groupの数で変わるので、CPU利用率やPerformanceが変わるのは、階段状になる