[메모리와 캐시 메모리] 캐시 메모리

[1two13]

저장 장치 계층 구조

• CPU에 얼마나 가까운가를 기준으로 컴퓨터에서 사용하는 저장 장치들을 계층적으로 나타낼 수 있다.

  1. CPU와 가까운 저장 장치는 빠르고, 멀리 있는 저장 장치는 느리다.

  2. 속도가 빠른 저장 장치는 저장 용량이 작고, 가격이 비싸다.

[1two13]

캐시 메모리

• CPU와 메모리 사이에 위치하고, 레지스터보다 용량이 크고, 메모리보다 용량이 작고, 메모리보다 빠른 SRAM 기반의 저장 장치
• CPU의 연산 속도와 메모리 접근 속도의 차이를 조금이나마 줄이기 위해 탄생했다.
• CPU가 사용할 법한 대상을 예측하고, 메모리의 일부를 복사하여 저장한다.
• 컴퓨터 내부에는 여러 개의 캐시 메모리가 있다.
  • CPU(코어)와 가까운 순서대로 계층을 구성한다.
  • 코어와 가장 가까운 캐시 메모리를 L1 캐시, 그 다음 가까운 캐시 메모리를 L2 캐시, 그 다음 가까운 캐시 메모리를 L3 캐시라고 한다.
    • L1, L2는 코어 내부에, L3는 코어 외부에 위치한다.
    • L1, L2는 코어마다 고유한 캐시 메모리로 할당되고, L3 캐시는 여러 코어가 공유하는 형태로 사용된다.
    • CPU가 메모리 내에 데이터가 필요하다고 판단하면 L1, L2, L3 캐시 순으로 데이터를 검색한다.

캐시 히트

• 캐시 메모리가 예측한 데이터가 실제로 들어맞아 캐시 메모리 내 데이터가 CPU에서 활용되는 경우

  캐시 미스

• 캐시 메모리의 예측이 틀려 메모리에서 필요한 데이터를 직접 가져와야 하는 경우

  캐시 적중률

• 캐시가 히트되는 비율
• 우리가 사용하는 컴퓨터의 캐시 적중률은 대략 85 ~ 95% 이상이다.

[1two13]

참조 지역성 원리

• CPU가 메모리에 접근할 때의 주된 경향을 바탕으로 만들어진 원리이다.
• 캐시 메모리의 이점을 제대로 활용하려면 CPU가 사용할 법한 데이터를 예측해서 캐시 적중률을 높여야 한다. 캐시 메모리는 참조 지역성 원리에 따라 메모리부터 가져올 데이터를 결정한다.

  1. CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향(시간 지역성)이 있다.

  2. CPU는 접근한 메모리 공간 근처를 접근하려는 경향(공간 지역성)이 있다.

• CPU가 실행하려는 프로그램은 보통 관련 데이터들끼리 한데 모여있다.