Server (Sync & Blokcing) 성능 측정 및 모니터링 시스템 설정

[iamabear09]

모니터링

• Prometheus & Grafana 서버를 Docker Container를 이용해 설정한다.
• Scouter APM을 통해서 서버를 모니터링 한다.
  • Scouter의 Xlog를 통해 각 Latency를 측정할 수 있다.

부하 & 성능 테스트

• nGrinder를 사용하려고 계획헀다가 K6로 변경했다.
• K6가 JavaScript 기반으로 Test를 작성할 수 있고 nGrinder보다 간단하게 사용할 수 있어서 K6로 결졍했다.

[iamabear09]

서버 성능 측정

POST Create Record 측정

• 비지니스 로직 특성상 굉장히 많은 POST요청이 날라 올 것이라고 생각이 든다.
• 따라서 POST 요청을 기준으로 성능 측정

📌 Smoke Test :: 동시 사용자 수 5명 → 7명

• 만약 Server에서 요청을 제대로 처리하지 못하고 있다면 RPS가 계속 줄어들었을 것이다.

📌 Connection Pool 모니터링

• 동시 사용자 수를 늘리는 순간 Connection Pool의 Connection 개수가 부족해 진다.
• Connection 개수를 적절하게 맞추면 TPS가 증가하겠지만 (CPU와 DB가 받쳐주면) Connection 개수는 일단 10개로 고정 시킬 예정이다.

📌 CPU 사용량

📌 TPS

📌 테스트 결과

📌 Scouter APM의 XLog

• XLog를 살펴보면 시간이 증가하는 경우가 있는데, 이는 ID 값이 필요해 추가로 DB에 쿼리를 날리는 경우 시간이 증가했다.

[iamabear09]

서버 동시 요청 한계 지점 측정

📌 Smoke Test :: 동시 사용자 수 1명 → 12명

• 8명이 넘어가는 순간부터 RPS 가 증가하지 않는 것을 볼 수 있다.
• 원인은 Connection Pool이 점점 말라가고 있기 때문이다.

📌 TPS

📌 CPU 사용량

📌 Scouter APM의 XLog

• 동시 접속자가 많아질 수록 전반적으로 Latency가 증가하는 경향을 보인다.
• 또한, Connection pool에 대기하다가 TimeOut 발생하는 요청이 많아진다.

📌 테스트 결과