系統設計怎麼想:從需求釐清、估算到 Trade-off 與 HLD/LLD

System Design 系列 Part 0(導讀)|下一篇:一個 HTTP Request 的旅程

系列地圖

這個系列從「一台機器」一路談到「分散式系統」,每一篇都用同一個結構:

  1. 情境與問題:先講一個具體場景,不從名詞開始
  2. 最簡單的做法與它的極限:先找出能用的最簡單方案,再看它在哪裡撐不住
  3. 核心機制:用 mermaid 圖說明原理
  4. 方案比較:每個方案犧牲什麼、換到什麼
  5. Java 落地:Spring Boot、MySQL、Redis 的實作
  6. 踩坑與 Gotchas:有資安面向時,另列「資安相關」
  7. 何時用/何時別用:包含「什麼條件下要重新評估」
  8. 參考資料
Part主題文章
0 導讀系統設計怎麼想本篇
1 量測基礎先學會量、會估,才知道瓶頸在哪一個 HTTP Request 的旅程、Latency、Throughput 與 p99、Napkin Math 容量估算
2 單機到多機一台不夠時的第一步垂直擴展、水平擴展與無狀態服務、Load Balancing 深入、Cache 深入、CDN 與 HTTP 快取
3 儲存基礎資料怎麼存、怎麼找SQL vs NoSQL、Index 與 B+Tree、B-Tree vs LSM-Tree、交易與隔離等級、檔案與物件儲存、Bloom Filter 與 HyperLogLog、全文搜尋與倒排索引、Geohash 與地理索引
4 分散式資料一台資料庫裝不下、扛不住之後Replication 與 Replication Lag、Sharding、Consistent Hashing、分散式 ID、CAP 與 PACELC、共識與 Raft、分散式鎖與 Fencing Token
5 服務通訊服務之間怎麼說話REST、gRPC 與 GraphQL、Message Queue、Pub/Sub 與投遞語意、冪等性與 Idempotency Key、即時更新
6 可靠性壞掉時怎麼辦備援、故障轉移與 DR、Timeout/Retry/Backoff 與 Jitter、Circuit Breaker 與 Bulkhead、Rate Limiting、Observability
7 架構演進系統和團隊一起長大單體 vs 微服務、Service Discovery、Saga 與 Outbox、Batch 與 Stream(撰寫中)
8 安全從系統設計角度看安全身分驗證:Session、Token 與 OAuth 2.0/OIDC、授權模型與 OWASP API Top 10、BOLA 穿過 BFF 之後:微服務的身分傳遞、傳輸與資料加密及 Secrets 管理、濫用防護(撰寫中)
9 實戰題把前面的元件組起來URL Shortener、News Feed、聊天系統、秒殺搶票、通知系統、排行榜、分散式排程(撰寫中)
10 交付安全地把變更送上線大規模系統的測試、CI/CD 與部署策略(撰寫中)

情境與問題

公司要辦年度線上講座,名額 3,000 個。行銷預估開放報名當天會有 5 萬人在線上等,開放後的前 30 秒就會湧進約 2.4 萬次報名請求。主管丟下一句:「下週給我一份設計。」

很多人的第一反應是開始畫圖:前面放 Redis 預扣名額、中間接 Kafka 非同步落庫、後面再拆一個報名微服務。圖很漂亮,但這時候其實還不知道下面幾件事:

  • 尖峰到底有多高?一台 MySQL 撐不撐得住?
  • 「不能超賣」和「回應要快」衝突時,哪個優先?
  • 多出來的 Redis、Kafka,故障時誰負責對帳?

系統設計的核心不是背架構圖,而是在限制條件下做取捨,並把理由講清楚。工具是最後一步才選的。

最簡單的做法與它的極限

先從最簡單、能動的版本開始:一台 Spring Boot 加一台 MySQL,報名就是一筆 INSERT 加一個條件式 UPDATE:

1
2
UPDATE event SET remaining = remaining - 1
WHERE id = 42 AND remaining > 0;

remaining > 0 這個條件交給資料庫判斷,影響 0 筆就代表額滿,天生不會超賣。接著用數字找出它的極限:

  • 2.4 萬次請求 ÷ 30 秒 ≈ 800 次/秒 的報名寫入尖峰
  • 每一次報名都要更新同一行 event。InnoDB 對同一行的更新必須排隊,一次只有一個交易能持有這行的 row lock,直到 commit 才釋放
  • 吞吐量上限 ≈ 1 ÷ 每筆交易持鎖時間:持鎖 1 ms 是 1,000 TPS,持鎖 2 ms 就只剩 500 TPS

800 剛好落在邊緣。這就是估算的價值:不需要猜,它直接告訴你真正的瓶頸是那一行熱點資料(hot row),而不是 CPU、也不是應用伺服器的數量。接下來的設計都繞著這個瓶頸做決定。

核心機制:系統設計的思考流程

flowchart TD
    A[釐清需求:功能 / 非功能] --> B[粗估:QPS、儲存、頻寬]
    B --> C[定義 API 與資料模型]
    C --> D[HLD:元件與資料流]
    D --> T[威脅建模:標出信任邊界與攻擊面]
    T --> E[找瓶頸:深入一兩個關鍵點]
    E --> F[列方案、比取捨、寫下決策]
    F --> G[演進路線:何時重新評估]
    G -. 規模或需求改變 .-> A

功能需求 vs 非功能需求

類型報名系統的例子決定了什麼
功能需求報名、取消、查詢剩餘名額、額滿後候補API 與資料模型
非功能需求尖峰 800 次/秒寫入、絕不超賣、p99 < 500 ms、活動當天 99.9% 可用、報名資料保存 1 年、只有本人能查詢與取消自己的報名架構、元件選型、部署方式

非功能需求一定要有數字。「要很快」不是需求,「p99 < 500 ms」才是;「要很穩」不是需求,「活動當天可用率 99.9%(約 1.4 分鐘停機額度)」才是。

HLD 與 LLD 的分工

HLD(High-Level Design)LLD(Low-Level Design)
回答的問題有哪些元件、資料怎麼流、怎麼擴展與容錯類別與介面怎麼切、資料表長怎樣、錯誤怎麼處理
產出架構圖、資料流、容量估算、選型理由class diagram、DDL、API 規格、狀態機
主要讀者團隊、主管、SRE實作者、code reviewer
改錯的代價高(資料庫選型、sharding key 幾乎不可逆)相對低(重構就能改)

面試的 system design 通常停在 HLD,再加一兩個 deep dive。實務上兩者互相影響:下一節會看到,LLD 裡「SQL 的執行順序」直接改變了 HLD 的容量上限。

輕量的威脅建模

HLD 畫出資料流之後,順著每一條資料流跨過的信任邊界(瀏覽器到 API、API 到資料庫、服務到服務),問六個問題。這六個問題的英文首字母合起來是 STRIDE:

威脅要問的問題報名系統的例子對策(系列中的位置)
Spoofing 冒充誰能假裝成別人?盜用帳號替別人報名身分驗證(Part 8)
Tampering 竄改誰能改掉傳輸中或儲存的資料?把請求裡的 memberId 改成別人的,幫他取消報名身分只從驗證過的 token 取,不信任請求參數(Part 8)
Repudiation 否認事後能證明誰做了什麼嗎?使用者堅稱自己沒有取消稽核紀錄(Part 6)
Information disclosure 洩漏誰能看到不該看的資料?用遞增的報名編號,逐一查出別人的報名資料物件層授權(Part 8)
Denial of service 阻斷誰能讓服務對別人不可用?機器人在開放瞬間搶光名額限流、驗證碼(Part 6、Part 8)
Elevation of privilege 提權誰能做超出權限的事?一般會員呼叫管理員的「匯出名單」API功能層授權(Part 8)

不需要一開始就寫成完整報告。目的是在架構還容易改的時候,把「誰可以碰什麼資料」列成需求,而不是上線後才補。

方案比較:Trade-off 框架

每個架構決策都用同一個框架逼自己講清楚:

  1. 至少列兩個方案,包含「維持現狀/最簡單方案」
  2. 每個方案回答:犧牲什麼、換到什麼。講不出犧牲的方案,代表還沒想清楚
  3. 排序依據:正確性 > 可維護性 > 效能,除非有數據證明效能就是當下的瓶頸
  4. 寫下觸發重新評估的條件,給半年後的自己和新同事留線索

套用到報名系統的名額扣減:

方案做法換到犧牲重新評估條件
A. 條件式 UPDATE單一 SQL 扣名額,搭配本機「已額滿」旗標提前拒絕最簡單、強一致、維運零成本熱點 row 的寫入上限受持鎖時間限制壓測 p99 > 500 ms
B. 名額分桶名額拆成 N 行,每次隨機挑一行扣鎖競爭降為約 1/N,仍在 MySQL 交易內查總名額要加總;尾端名額分佈不均時要重試尾端重試率過高
C. Redis 預扣 + 非同步落庫Lua script 原子扣減,再經 MQ 寫回 MySQL每秒數萬次扣減多兩套元件;Redis 與 DB 不一致時要對帳與補償單場名額或流量到秒殺等級
D. 排隊等候室前端先進佇列,依序放行後端負載完全可控使用者要等,實作與體驗設計成本高流量遠超後端能力時

3,000 個名額、800 次/秒的尖峰,先選 A,壓測不過再換 B。C 和 D 留給更大的規模。這個結論不是「A 最好」,而是「A 在這個規模下夠用,而且我們知道它什麼時候會不夠用」。

Java 落地:從 HLD 走到 LLD

資料表

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
CREATE TABLE event (
    id        BIGINT PRIMARY KEY,
    title     VARCHAR(200) NOT NULL,
    capacity  INT NOT NULL,
    remaining INT NOT NULL,
    CHECK (remaining >= 0)
);

CREATE TABLE registration (
    id         BIGINT AUTO_INCREMENT PRIMARY KEY,
    event_id   BIGINT NOT NULL,
    member_id  BIGINT NOT NULL,
    created_at DATETIME(3) NOT NULL DEFAULT CURRENT_TIMESTAMP(3),
    UNIQUE KEY uk_event_member (event_id, member_id)
);

uk_event_member 讓資料庫擋掉重複報名;CHECK 從 MySQL 8.0.16 起才會真正執行,是最後一道防線。

報名服務

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
@Service
public class RegistrationService {

    private final JdbcClient jdbcClient;
    private final SoldOutFlag soldOutFlag;

    public RegistrationService(JdbcClient jdbcClient, SoldOutFlag soldOutFlag) {
        this.jdbcClient = jdbcClient;
        this.soldOutFlag = soldOutFlag;
    }

    @Transactional
    public void register(long eventId, long memberId) {
        if (soldOutFlag.isSoldOut(eventId)) {
            throw new SoldOutException(eventId);       // 額滿後的請求不碰資料庫
        }

        try {
            jdbcClient.sql("INSERT INTO registration (event_id, member_id) VALUES (:eventId, :memberId)")
                    .param("eventId", eventId)
                    .param("memberId", memberId)
                    .update();
        } catch (DuplicateKeyException e) {
            throw new AlreadyRegisteredException(eventId, memberId);
        }

        // 熱點 row 放在交易的最後一步更新:持鎖時間只剩 UPDATE + commit
        int updated = jdbcClient.sql("""
                UPDATE event SET remaining = remaining - 1
                WHERE id = :eventId AND remaining > 0
                """)
                .param("eventId", eventId)
                .update();

        if (updated == 0) {
            soldOutFlag.markSoldOut(eventId);
            throw new SoldOutException(eventId);       // RuntimeException → 回滾上面的 INSERT
        }
    }
}
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
@Component
public class SoldOutFlag {

    private static final long TTL_MILLIS = 30_000;
    private final Map<Long, Long> soldOutUntil = new ConcurrentHashMap<>();

    public boolean isSoldOut(long eventId) {
        Long until = soldOutUntil.get(eventId);
        return until != null && until > System.currentTimeMillis();
    }

    public void markSoldOut(long eventId) {
        soldOutUntil.put(eventId, System.currentTimeMillis() + TTL_MILLIS);
    }
}

這段程式裡有三個 LLD 決策,每一個都會影響 HLD:

  • 先 INSERT 再 UPDATE:如果反過來,熱點 row 的鎖要一路持有到 INSERT 完成才釋放,持鎖時間變長,吞吐量上限直接下降。SQL 的順序就是容量
  • 用例外表達失敗:SoldOutException、AlreadyRegisteredException 都是 RuntimeException,丟出時 @Transactional 會回滾整筆交易。如果改成「catch 住後回傳錯誤碼」,前面已經執行的 SQL 會被 commit,名額就被白白扣掉
  • 旗標只是最佳化,正確性在資料庫:SoldOutFlag 是每台機器各自的記憶體,各台不同步也沒關係,因為就算旗標誤判,SQL 的 remaining > 0 仍然會擋住超賣。TTL 30 秒是為了讓有人取消報名、名額釋出後,旗標能自動失效

把決策寫成 ADR

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
# ADR-007:報名名額扣減採用 MySQL 條件式 UPDATE

- Status: Accepted
- Date: 2026-11-22

## Context
開放報名後 30 秒內預估 2.4 萬次請求(約 800 次/秒),名額 3,000,不可超賣。
瓶頸是 event 表的單一熱點 row。

## Decision
名額扣減使用單一條件式 UPDATE,放在交易最後一步;
搭配本機「已額滿」旗標(TTL 30 秒),額滿後直接拒絕。

## Alternatives considered
- 名額分桶:鎖競爭較低,但查總數與尾端重試變複雜,目前規模不需要
- Redis 預扣 + 非同步落庫:吞吐最高,但需要對帳與故障補償機制

## Consequences
- 熱點 row 寫入上限取決於持鎖時間,交易內禁止加入非必要操作
- 重新評估條件:壓測 p99 > 500 ms,或單場名額超過 2 萬

踩坑與 Gotchas

  • 先選工具再找問題:還沒估算就決定上 Kafka、Redis、微服務,結果多了三套要維運的元件,瓶頸卻在一行 SQL
  • 只講 happy path:使用者連點兩次、網路逾時後重送、資料庫主從切換的那幾秒怎麼辦?設計文件要回答這些問題
  • 非功能需求沒有數字:沒有數字就無法驗收,也無法判斷方案夠不夠
  • 把「最終一致」當成免費:要說清楚不一致的時間窗口多長、這段時間使用者看到什麼、誰來修正
  • 把正確性交給快取或旗標:快取、本機旗標都可能過期或不同步,只能用來加速,不能用來保證正確
  • 沒寫重新評估條件:半年後流量翻十倍,新同事看到「為什麼只用一行 SQL」會以為當初設計錯了,其實只是條件改變了
  • 把 CAP 當成唯一的思考工具:CAP 只是「分散式一致性」這一類決策的框架,大多數設計決策跟它無關

何時用/何時別用

  • 需要完整的 HLD 文件:新系統、跨團隊協作、牽涉金流或資料正確性、做不可逆的選擇(資料庫選型、sharding key、對外 API 格式)
  • 一份 ADR 就夠:單一、可逆的技術決策,例如換一個 HTTP client、調整快取 TTL
  • 不需要正式設計:改壞了可以馬上回退的小改動,直接做、直接量
  • 重新評估的時機:規模變成原本的 10 倍、核心需求改變(例如從「先搶先贏」改成「抽籤」)、團隊規模或組織分工改變

判斷要花多少力氣設計,看的是決策可不可逆:可逆的就快速決定、上線後用數據修正;不可逆的才值得多花時間估算和比較。

參考資料

留言討論