채팅 서비스 레퍼런스 사전지식 1. Caching strategy

[tonykang22]

채팅 서비스 레퍼런스 사전지식 1. Caching strategy

개요

• 채팅 서비스에 자주 사용되는 Cache에 대해 잘 이해하기 위함

Write Strategy

Write-through

• Write-through
  • 캐시를 기본 데이터 저장소처럼 사용한다.
  • 1. 쓰기 요청이 도착하면 먼저 캐시를 업데이트한다.
  • 2. 그런 다음 캐시는 DB에 동기식(synchronously)으로 write한다.
• 장점
  • 데이터가 캐시에 있을 가능성이 높기 때문에 읽기 대기 시간이 줄어든다.
  • 캐시와 DB는 대개 일관성이 지켜진다.
• 단점
  • 캐시와 DB에 동기식으로 write하기 때문에 쓰기 대기 시간이 늘어난다.
  • 비효율적인 캐시 사용이 일어날 수 있다.
  • 가끔 요청되는 데이터도 캐시에 기록된다.
  • 이는 TTL을 통해 최소화할 수 있다.
  • 노드가 실패하면 DB에서 항목이 업데이트될 때까지 새 노드가 비어있게 된다.
  • Cache-aside를 곁들여 완화할 수 있다.
• 데이터 손실에 매우 민감한 상황에 사용하기 적절하다.

Write-behind(back)

• Write-behind
  • Write-through와 매우 유사하며, 차이점은 DB를 비동기적(asynchronously)으로 업데이트한다는 점 뿐이다.
  • 1. 쓰기 요청이 도착하면 캐시를 업데이트하고 결과를 클라이언트에 즉시 반환한다.
  • 2. 그런 다음 캐시는 DB에 비동기식으로 write한다.
  • 일정 시간, 혹은 일정 크기가 되었을 때 write가 발생할 수 있다.
• 장점
  • Write-through 전략에 비해 쓰기 대기 시간이 줄어든다.
  • 데이터가 캐시에 있을 가능성이 높기 때문에 읽기 대기 시간이 줄어든다.
  • 캐시와 DB는 대개 일관성이 지켜진다.
• 단점
  • DB 동기화가 완료되기 전에 캐시가 다운되면 데이터 손실이 발생할 수 있다.
  • Cache Aside, Write-through에 비해 구현이 복잡하다.
  • 비효율적인 캐시 사용이 일어날 수 있다.
  • 가끔 요청되는 데이터도 캐시에 기록된다.
  • 이는 TTL을 통해 최소화할 수 있다.
• 빠른 서비스가 필요한 상황에 사용하기 적절하다.

Write-around

• Write-around
  • 캐시를 먼저 적중하는 대신 DB를 업데이트한 뒤 비동기적(asynchronously)으로 캐시에 write한다.
  • 1. 쓰기 요청이 도착하면 DB에 바로 업데이트한다.
  • 2. DB는 캐시의 키를 비동기식으로 업데이트한다.
• 장점
  • 캐시가 DB의 모든 write에 대해 업데이트 될 경우, 읽기 지연 시간이 줄어든다.
  • DB는 항상 최신 상태로 신뢰할 수 있는 데이터를 제공할 수 있다.
  • 데이터가 항상 DB에 write되기 때문에 내결함성(Fault tolerance)이 보장된다.
• 단점
  • 데이터가 DB에 write되기 때문에 쓰기 지연 시간이 늘어난다.
  • DB와 캐시 업데이트에 지연이 발생하면, 데이터 최신화를 유지하지 못할 수도 있다.
• 쓰기보다 읽기 작업이 많은 상황에 사용하기 적절하다.

• Reference : 6 Caching Strategies For System Design Interviews