opensource4you / astraea

釋放kafka的無限潛能
Apache License 2.0
149 stars 59 forks source link

Grafana template for Astraea #1347

Open chia7712 opened 1 year ago

chia7712 commented 1 year ago

我們大部分的報告都仰賴 grafana 來呈現數據圖表,因此做一個樣板讓使用者快速“複刻“我們呈現的畫面是一個相當重要的功能,因此一個專屬於 astraea 的 grafana template 是一個必要的功能

chia7712 commented 1 year ago

@qoo332001 @garyparrot @chaohengstudent 可否提供你們常用的樣板讓我看一下?

garyparrot commented 1 year ago

我現在用的跟下面這個差不多一樣

https://github.com/skiptests/astraea/blob/main/docs/balancer/resources/experiment_1_grafana-1663659783116.json

btw dashboard 裡面寫的 query 會和我們 jmx_exporter 使用的撈取設定耦合,如果使用者的叢集不是用我們的腳本開,或是使用者的叢集不是用下面這個連接的 jmx_exporter 設定檔,或是有人去變動那個連接的檔案,那有機會 dashboard 會沒辦法正常顯示(找不到對應 name/label 的 time series),看要不要開始嘗試使用我們專案自己的 jmx_exporter 設定檔。

https://github.com/skiptests/astraea/blob/4f97a23867037a62ee1d09dd5d1e0d2e5e8f0ce0/docker/start_broker.sh#L104

chia7712 commented 1 year ago

看要不要開始嘗試使用我們專案自己的 jmx_exporter 設定檔。

有道理,應該先完成這個項目

chia7712 commented 1 year ago

@qoo332001 @garyparrot @harryteng9527 @chinghongfang 來個回應喔,至少把你們實驗過程中截圖的樣板貼上來

chinghongfang commented 1 year ago

我最常用的就是 node exporter (1860) 和 這個query sum(rate(kafka_log_log_size[30s])) by (topic)

harryteng9527 commented 1 year ago

我是直接 import dashboard ID: 11962 來觀測 Kafka 的 metrics

garyparrot commented 1 year ago

https://gist.githubusercontent.com/garyparrot/c71ef74f15f7c821cc93ccf7949a09cf/raw/d4f5a0ddb99887edf557bfbe3ddc0e4818bf0f9b/gistfile1.txt

chia7712 commented 1 year ago

我最常用的就是 node exporter (1860

@chinghongfang 可否請你發PR將 node exporter 也整合到 start_broker.sh ?

chinghongfang commented 1 year ago

將 node exporter 也整合到 start_broker.sh

這樣會把 node exporter 和 broker 綁一起,client (start_app.sh) 那邊就沒有 node exporter 可以用了吧?

chia7712 commented 1 year ago

這樣會把 node exporter 和 broker 綁一起,client (start_app.sh) 那邊就沒有 node exporter 可以用了吧?

誒 你提醒了我,我們有一個獨立的腳本啟動 node exporter,那保持現在的用法就好

chia7712 commented 1 year ago

@harryteng9527 當時你在寫 prometheus 的文件時裡面有一句話 refer to node exporter readme 這個算是一個TODO嗎?

https://github.com/skiptests/astraea/blob/main/docs/run_prometheus.md

harryteng9527 commented 1 year ago

應該是可以參考 https://github.com/skiptests/astraea/blob/main/docs/run_node_exporter.md 這份文件的設置開啟 node_exporter

chia7712 commented 1 year ago

應該是可以參考 https://github.com/skiptests/astraea/blob/main/docs/run_node_exporter.md 這份文件的設置開啟 node_exporter

這份文件好像沒有被引用到?可否發個PR補完這段?

harryteng9527 commented 1 year ago

這份文件好像沒有被引用到?可否發個PR補完這段?

ok