Rate Limiting은 어떤 기준으로 설계할 수 있나요?

Rate Limiting은 특정 시간 동안 허용할 요청 수를 제한해 남용과 과부하를 막는 기법입니다. IP, 사용자 ID, API 키, 엔드포인트별로 기준을 정할 수 있으며 token bucket, leaky bucket, fixed window, sliding window 같은 알고리즘을 사용합니다.

핵심 개념

핵심 기준은 요청 주체와 시간 창 기준으로 사용량 제한입니다. 이 개념은 단순히 용어를 외우는 것보다, 어떤 문제를 줄이기 위해 등장했는지와 실제 코드나 운영 환경에서 어떤 trade-off를 만드는지 함께 이해하는 것이 중요합니다.

사용자, IP, API 키, 엔드포인트별 제한을 떠올려보세요.

동작 흐름

1. 먼저 문제가 발생하는 조건과 입력을 확인합니다.
2. 관련된 런타임, 브라우저, 서버, 데이터 저장소의 책임을 나눠 봅니다.
3. 가장 작은 범위에서 안전한 해결책을 적용합니다.
4. 로그, 테스트, 모니터링으로 실제로 문제가 줄었는지 확인합니다.

실제 예시

로그인 API는 IP와 계정 기준으로 더 엄격하게 제한하고, 공개 조회 API는 API 키별 할당량을 둘 수 있습니다.

실무에서 적용하는 방법

초과 시 429 상태와 Retry-After 헤더를 제공하면 클라이언트가 재시도 시점을 알 수 있습니다.

실무에서 주의할 점

• 프록시 뒤에서는 실제 클라이언트 IP 추출과 spoofing 방어를 함께 고려해야 합니다.
• 개념을 적용하기 전에 현재 시스템의 규모, 병목, 장애 영향도를 함께 확인해야 합니다.
• 팀 규칙이나 프레임워크 기본 동작과 충돌하지 않는지도 점검하는 것이 좋습니다.

함께 연결해서 보면 좋은 키워드

인프라, RateLimiting, 보안, 트래픽

면접에서 짚으면 좋은 포인트

• 정의만 말하기보다 어떤 문제를 줄이기 위한 개념인지 먼저 설명하면 좋습니다.
• 장점과 함께 비용, 한계, 적용하지 않아도 되는 상황을 같이 말하면 실무 이해도가 드러납니다.

정리

한 줄로 정리하면, Rate Limiting은 특정 시간 동안 허용할 요청 수를 제한해 남용과 과부하를 막는 기법입니다입니다. 실무에서는 개념을 적용하는 조건과 적용하지 않았을 때 생기는 문제까지 함께 이해하는 것이 중요합니다.