LRU 캐시는 어떤 원리로 동작하나요?

LRU 캐시는 용량이 가득 찼을 때 가장 오래 사용되지 않은 항목을 제거하는 캐시 전략입니다. 보통 해시맵으로 O(1) 조회를 하고, 이중 연결 리스트로 사용 순서를 관리해 접근된 항목을 최신 위치로 이동시킵니다.

핵심 개념

핵심 기준은 조회는 해시맵, 순서는 연결 리스트로 관리입니다. 이 개념은 단순히 용어를 외우는 것보다, 어떤 문제를 줄이기 위해 등장했는지와 실제 코드나 운영 환경에서 어떤 trade-off를 만드는지 함께 이해하는 것이 중요합니다.

가장 오랫동안 사용되지 않은 항목을 제거하는 상황을 떠올려보세요.

동작 흐름

1. 먼저 문제가 발생하는 조건과 입력을 확인합니다.
2. 관련된 런타임, 브라우저, 서버, 데이터 저장소의 책임을 나눠 봅니다.
3. 가장 작은 범위에서 안전한 해결책을 적용합니다.
4. 로그, 테스트, 모니터링으로 실제로 문제가 줄었는지 확인합니다.

실제 예시

최근 본 상품 100개만 저장해야 한다면 새 상품을 볼 때 최신 위치로 옮기고 초과 시 가장 오래된 상품을 제거합니다.

실무에서 적용하는 방법

Map의 삽입 순서를 활용해 간단한 LRU를 구현할 수도 있습니다.

실무에서 주의할 점

• 캐시 hit ratio와 메모리 제한을 관찰하며 용량을 조정해야 합니다.
• 개념을 적용하기 전에 현재 시스템의 규모, 병목, 장애 영향도를 함께 확인해야 합니다.
• 팀 규칙이나 프레임워크 기본 동작과 충돌하지 않는지도 점검하는 것이 좋습니다.

함께 연결해서 보면 좋은 키워드

자료구조, LRU, 캐시, 해시맵

면접에서 짚으면 좋은 포인트

• 정의만 말하기보다 어떤 문제를 줄이기 위한 개념인지 먼저 설명하면 좋습니다.
• 장점과 함께 비용, 한계, 적용하지 않아도 되는 상황을 같이 말하면 실무 이해도가 드러납니다.

정리

한 줄로 정리하면, LRU 캐시는 용량이 가득 찼을 때 가장 오래 사용되지 않은 항목을 제거하는 캐시 전략입니다입니다. 실무에서는 개념을 적용하는 조건과 적용하지 않았을 때 생기는 문제까지 함께 이해하는 것이 중요합니다.