Dùng N worker cố định để xử lý hàng nghìn job — song song nhưng có giới hạn.Use a fixed N workers to process thousands of jobs — parallel, but bounded.
Trạm thu phí cao tốc có đúng 5 cabin. Dù 500 xe đổ về, chỉ 5 xe được xử lý cùng lúc, số còn lại xếp hàng. Mở 500 cabin cho 500 xe thì quá tốn, còn chỉ mở 1 cabin thì kẹt xe tới tối.A highway toll plaza has exactly 5 booths. Even if 500 cars arrive, only 5 are served at once and the rest queue up. Opening 500 booths would be absurdly expensive; opening just 1 means a traffic jam until night.
Cuối ngày, hệ thống ví điện tử phải đối soát 10.000 giao dịch đang PENDING bằng cách gọi API cổng thanh toán. Làm tuần tự mất cả tiếng. Còn bật 10.000 thread/goroutine cùng lúc thì cổng thanh toán chặn vì rate limit, connection pool DB cạn và server có thể sập.At the end of the day, an e-wallet must reconcile 10,000 PENDING transactions by calling the payment gateway's API. Doing it sequentially takes an hour. Firing 10,000 threads/goroutines at once gets you rate-limited by the gateway, drains the DB connection pool and may crash the server.
Tạo đúng N worker (ví dụ 8) sống suốt quá trình. Mọi job được bỏ vào một hàng đợi; mỗi worker lặp: lấy job → xử lý → trả kết quả. Mức song song luôn bị chặn ở N, còn thread/goroutine được tái sử dụng thay vì tạo mới cho từng job.Create exactly N workers (say 8) that live for the whole run. All jobs go into a queue; each worker loops: take a job → process → emit a result. Parallelism is always capped at N, and threads/goroutines are reused instead of created per job.
Dùng Tự chạy hoặc phím mũi tên để đi qua từng bước gọi giữa các object. Console hiển thị output tương ứng của chương trình.Use Autoplay or the arrow keys to step through each call between objects. The console shows the matching program output.
1Khởi động đúng 3 worker. Chúng đều chặn ở range jobs vì chưa có job nào.Start exactly 3 workers. They all block on range jobs because there are no jobs yet.
Cùng một bài toán, hai ngôn ngữ. Rê chuột hoặc focus vào chú thích (số màu cam) để làm nổi bật dòng code tương ứng.Same problem, two languages. Hover or focus an annotation (orange number) to highlight its line.
package com.wallet.reconcile;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;
import java.util.concurrent.ThreadPoolExecutor;
@Configuration
class PoolConfig {
@Bean
ThreadPoolTaskExecutor reconcilePool() {
var pool = new ThreadPoolTaskExecutor();
pool.setCorePoolSize(8); // N workers
pool.setMaxPoolSize(8); // never grow beyond N
pool.setQueueCapacity(500); // bounded job queue
pool.setThreadNamePrefix("reconcile-");
// Queue full? The caller runs the job itself -> natural backpressure
pool.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy());
pool.setWaitForTasksToCompleteOnShutdown(true);
return pool;
}
}package reconcile
import "context"
type Result struct {
TxID string
Status string
Err error
}
type Gateway interface {
CheckStatus(ctx context.Context, txID string) (string, error)
}
// worker loops until jobs is closed. It never closes results itself.
func worker(ctx context.Context, gw Gateway, jobs <-chan string, results chan<- Result) {
for txID := range jobs {
status, err := gw.CheckStatus(ctx, txID)
results <- Result{TxID: txID, Status: status, Err: err}
}
}errgroup.Group.SetLimit(n) (golang.org/x/sync) là cách ngắn gọn để có pool giới hạn kèm huỷ khi lỗi.In Go, errgroup.Group.SetLimit(n) (golang.org/x/sync) is a concise way to get a bounded pool with cancel-on-error.Mỗi request HTTP được một thread trong pool của Tomcat xử lý (server.tomcat.threads.max, mặc định 200).Each HTTP request is handled by a thread from Tomcat's pool (server.tomcat.threads.max, default 200).
Connection pool cũng là cùng ý tưởng: N tài nguyên đắt tiền dùng chung, người cần phải chờ tới lượt.A connection pool follows the same idea: N expensive resources shared, callers wait their turn.
g.SetLimit(8) khiến g.Go(...) chặn khi đã có 8 goroutine đang chạy — worker pool gói gọn trong 2 dòng.g.SetLimit(8) makes g.Go(...) block while 8 goroutines are running — a worker pool in 2 lines.
Batch job cuối ngày ở ví điện tử/ngân hàng: hàng nghìn việc giống nhau, giới hạn theo rate limit của đối tác.End-of-day batch jobs at e-wallets/banks: thousands of identical tasks, limited by the partner's rate limit.
results có nhiều bên gửi. Worker xong việc đầu tiên mà close(results) thì các worker khác gửi tiếp sẽ panic; nếu tất cả cùng close thì 'close of closed channel'. Ngoài ra, chờ wg.Wait() trước khi đọc results với channel không buffer sẽ gây deadlock.results has many senders. If the first worker to finish closes it, the others panic when they send; if all of them close it, 'close of closed channel'. Also, calling wg.Wait() before reading an unbuffered results channel deadlocks.
for range n {
wg.Add(1)
go func() {
defer wg.Done()
defer close(results) // ❌ n senders, n closes -> panic
worker(ctx, gw, jobs, results)
}()
}
wg.Wait() // ❌ nobody is reading results yet -> deadlock
for r := range results {
out = append(out, r)
}Worker Pool: N worker cố định sống lâu, rút việc từ một queue. Fan-out/Fan-in: tách một việc lớn ra nhiều nhánh rồi gộp kết quả — số nhánh có thể theo số phần việc.Worker Pool: N long-lived workers pulling from one queue. Fan-out/Fan-in: split one big task into branches and merge the results — the branch count may follow the number of parts.
Semaphore chỉ giới hạn số người cùng vào một tài nguyên; Worker Pool còn quản lý luôn các worker và hàng đợi job.A Semaphore only caps how many enter a resource at once; a Worker Pool also owns the workers and the job queue.
Phím 1–4 để chọn đáp án, Enter để kiểm tra.Press 1–4 to choose an answer, Enter to check.
Ôn tập ngắt quãng (spaced repetition): thẻ được lặp lại sau 1 → 3 → 7 → 14 → 30 ngày để củng cố trí nhớ dài hạn.Spaced repetition: cards are repeated after 1 → 3 → 7 → 14 → 30 days to build long-term memory.