housepower / clickhouse_sinker

Easily load data from kafka to ClickHouse
https://housepower.github.io/clickhouse_sinker
Apache License 2.0
515 stars 118 forks source link

clickhouse_sinker容器每日重启 #143

Closed w3z4y4 closed 2 years ago

w3z4y4 commented 2 years ago

容器化部署的sinker,每日凌晨开始停机,差不多半小时后被k8s启动。 想问下这个是不是日志切换有问题导致容器挂掉

yuzhichang commented 2 years ago
w3z4y4 commented 2 years ago
  • sinker的版本? 2.3.0
  • 分析一下sinker的日志 学习了一下如何找到了容器尸体的日志,经分析是太多次连不上kafka,最后产生了一条fatal错误,想咨询下这个最大重试次数是否可以调整?
  • 有可能容器遭遇了段错误。想办法让容器生成coredump。参考https://danishpraka.sh/2021/05/10/core-pattern-k8s.html 好的,已收藏
yuzhichang commented 2 years ago

需要调查为什么clickhouse_sinker连接不上kafka。有详细日志吗?

w3z4y4 commented 2 years ago

需要调查为什么clickhouse_sinker连接不上kafka。有详细日志吗?

yuzhichang commented 2 years ago

"task一直请求超时也会导致sinker出现fatal错误"的日志贴一下

w3z4y4 commented 2 years ago

"task一直请求超时也会导致sinker出现fatal错误"的日志贴一下

image

yuzhichang commented 2 years ago

这个日志是sinker提交offset给kafka超时。