Câu hỏi System Design interview: Design Rate Limiter – trả lời sao cho điểm cao

Bạn vừa nhận được email mời phỏng vấn vị trí Senior Backend Engineer và trong danh sách câu hỏi có “Design a rate limiter for an API”. Đây là một trong những “classic” mà mọi công ty công nghệ hay dùng để đánh giá khả năng kiến trúc hệ thống, suy nghĩ về scalability và trade‑off. Nếu trả lời một cách lộn xộn, bạn sẽ mất điểm dù kiến thức chuyên môn còn tốt. Bài viết này sẽ cho bạn một khuôn khổ trả lời ngắn gọn, logic và kèm ví dụ thực tế bằng Java 21 + Spring Boot và Go 1.22, để bạn có thể áp dụng ngay trong buổi interview.

1. Khung trả lời chuẩn cho mọi System Design#

Xác định yêu cầu
- Functional: giới hạn số request trong một khoảng thời gian (per‑second, per‑minute), hỗ trợ limit theo user, IP hoặc API key.
- Non‑functional: latency < 5 ms, độ sẵn sàng 99.9 %, hỗ trợ 10 k QPS, khả năng mở rộng ngang.
- Đặt câu hỏi để làm rõ: “Mình có cần burst tolerance không? Quota có thể reset mỗi ngày không?”

Định nghĩa API

TEXT

POST /rate-limit/check
Body: { "userId": "123", "apiKey": "abc" }
Response: { "allowed": true, "retryAfter": 0 }

Vẽ kiến trúc cấp cao

1. Khung trả lời chuẩn cho mọi System Design#

Xác định yêu cầu
- Functional: giới hạn số request trong một khoảng thời gian (per‑second, per‑minute), hỗ trợ limit theo user, IP hoặc API key.
- Non‑functional: latency < 5 ms, độ sẵn sàng 99.9 %, hỗ trợ 10 k QPS, khả năng mở rộng ngang.
- Đặt câu hỏi để làm rõ: “Mình có cần burst tolerance không? Quota có thể reset mỗi ngày không?”

Định nghĩa API

TEXT

POST /rate-limit/check
Body: { "userId": "123", "apiKey": "abc" }
Response: { "allowed": true, "retryAfter": 0 }

Vẽ kiến trúc cấp cao

Bước	Nội dung	Mẹo
1️⃣	Clarify scope, ask about burst, reset period	Đừng đoán, hỏi ngay.
2️⃣	Sketch high‑level diagram (LB → Service → Cache → DB)	Vẽ nhanh trên giấy/whiteboard.
3️⃣	Chọn data store (Redis) và thuật toán (token bucket)	Nêu lý do latency & atomicity.
4️⃣	Discuss scaling (sharding, stateless pods, HPA)	Đưa ví dụ Kubernetes HPA.
5️⃣	Trade‑off (consistency vs availability, cost)	Nhấn mạnh “eventual consistency is OK”.
6️⃣	Wrap up with monitoring (p99 latency, error rate)	Đề cập metric & alert.

Step	What to cover	Tip
1️⃣	Clarify scope, ask about burst & reset period	Never assume, ask early.
2️⃣	Sketch high‑level diagram (LB → Service → Cache → DB)	Draw quickly on the whiteboard.
3️⃣	Choose data store (Redis) and algorithm (token bucket)	Explain latency & atomicity.
4️⃣	Discuss scaling (sharding, stateless pods, HPA)	Mention Kubernetes.
5️⃣	Trade‑offs (consistency vs availability, cost)	Highlight “eventual consistency is fine”.
6️⃣	End with monitoring (p99 latency, error rate)	Name metrics & alerts.

Câu hỏi System Design interview: Design Rate Limiter – trả lời sao cho điểm caoSystem Design Interview: Designing a Rate Limiter – How to score high

1. Khung trả lời chuẩn cho mọi System Design#

Câu hỏi System Design interview: Design Rate Limiter – trả lời sao cho điểm caoSystem Design Interview: Designing a Rate Limiter – How to score high

1. Khung trả lời chuẩn cho mọi System Design#

2. Ví dụ thực tế bằng Java (Spring Boot 3, Java 21)#

3. Ví dụ thực tế bằng Go#

4. TL;DR – Cách trả lời sao cho “điểm cao”#

Tóm tắt#

1. Standard answer framework#

2. Java example (Spring Boot 3, Java 21)#

3. Go example#

4. TL;DR – How to score high in the interview#

Key takeaways#

Thảo luậnDiscussion

1. Khung trả lời chuẩn cho mọi System Design#

1. Khung trả lời chuẩn cho mọi System Design#

2. Ví dụ thực tế bằng Java (Spring Boot 3, Java 21)#

3. Ví dụ thực tế bằng Go#

4. TL;DR – Cách trả lời sao cho “điểm cao”#

Tóm tắt#

1. Standard answer framework#

2. Java example (Spring Boot 3, Java 21)#

3. Go example#

4. TL;DR – How to score high in the interview#

Key takeaways#

Bài học liên quanRelated lessons

Rate Limiter

Thảo luậnDiscussion

2. Ví dụ thực tế bằng Java (Spring Boot 3, Java 21)#