성능 관점의 아키텍처

[farmeter]

요약

Throttle (nginx)Rate Limiting (만든 용어. 원래 전력관리 용어)Load Shedding

대량 트래픽 대응 전략

• 물리적인 증설만으로 한계
• 선제적으로 트래픽을 제어하고, 가용성을 높이기 위해 "Throttle"과 "Load Shedding"을 도입
• 장기적으로는 초과 트래픽도 수용 가능하도록 개선 필요

A. 트래픽 방어

1. Rate Limiting
   • 정상적인 서비스가 불가능한 트래픽은 Throttling 하여 가용한 수준으로 조절
2. Load Shedding & Response Boost Up
   • 트래픽이 집중되는 곳은 동접 (쓰레드를)제한하고, 응답속도를 높여 장애 확산 방지

B. 트래픽 수용

3. Autoscaling Cached Pages
   • block된 요청을 단수 ㄴ503보다는 최소한의 정보만 노출하는 심플페이지로 구성
4. Microcaching for Contents
   • 정적이거나 갱신주기가 긴 동적페이지는 Nginx의 Microcaching을 사용