ログ管理 - Githubissues

jinugasachio commented 3 years ago

※ ごちゃごちゃしているのでこのチケットの全てのコメントの要点をまとめたものをここに書く

ログの分類

FireLensのFluent Bitコンテナが予期せぬ停止をしてしまうと、送信頻度によってはログを消失する可能性があります。 Kinesis Data Firehoseを間に挟むことでログのバッファリングが可能なので、高頻度の送信によるニアリアルタイムでログを保管することができます。

jinugasachio commented 3 years ago

昔はfargateだと柔軟に転送先を選べなかったっぽいけど今はFireLensで実現できるらしい

fluentdからelasticsarchとs3双方にログを転送し直近のログは一定期間のみ前者で扱えるようにするとかするとコストは抑えられる。当たり前だが長期保存はs3のようなオブジェクトストレージが向いている。

firehoseを挟む場合と挟まない場合とでのメリデメがいまいちわかっていない

jinugasachio commented 2 years ago

ログドライバーはawslogsよりもFireLensの方が各所でお勧めされている FireLensとFluent Bitの併用でcloud watch logとs3に同時に転送・出力できたり、片方にのみ転送・出力できたりする

FireLensではFluentdとFluent Bit 両方選択できるがAWS的にはリソース効率が良いFluent Bitを推奨している Fluentdはruby製、Fluent BitはC製

yukio-ugajin commented 2 years ago

~~papertrailの代わりとなる~~可視化ツールは何にしたらいいのか、やはりdatadog? newrelicはメトリクス収集はできそうだけどログは一元的に見れるのか？

jinugasachio commented 2 years ago

herokuから移行したケースだとやっぱpapertrail使いたいって感じたらしい

yukio-ugajin commented 2 years ago

jinugasachio commented 2 years ago

ログ可視化に良さそう

発表内容でも触れましたが、一般的にSIEM（Security Information and Event Management）の機能としては以下の3つです。

ログを統合的に管理する

複数のログを相関的に分析する

インシデントを発見し管理する

jinugasachio commented 2 years ago

ログから何をしたいのか目的に合わせて仕組みを検討すべし
- 例
- 保管
  - 障害やセキュリティインシデント時の調査
- 分析
  - ユーザーへ提供するレポート
  - カスタマーサポート
- 監視
  - エラーなどの異常を検知してのアラート
  - レスポンスタイムなどのサービスの状態をダッシュボードで確認
保管目的の場合
- データ量が多く保管期間も長いが利用頻度は低い
- S3がおすすめ
- 構成例
- container -> kinesis data firehose -> s3
分析目的の場合
- データ量、保管期間、利用頻度が中程度〜多い
- 要件次第で分析速度（リアルタイム、特定時間内）が求められる
- 要件に合わせてAWSサービスとのインテグレーション
- 構成例
- バッチ、アドホック分析
  - container -> kinesis data firehose -> s3 -> redshift spectrum or athena
- リアルタイム分析
  - container -> kinesis data firehose -> kinesis data streams -> kinesis data analytics
監視目的の場合
- データ量少ない、保管期間短い、リアルタイム性
- 構成例
- アラート
  - container -> cloud watch
- リアルタイム監視
  - container -> kinesis data firehose -> open search + kibana

jinugasachio commented 2 years ago

スクリーンショット 2021-11-25 13 46 24（2）スクリーンショット 2021-11-25 13 54 42（2）スクリーンショット 2021-11-25 13 56 13（2）