<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
	<channel>
		<title>Bulkhead on Bill.Lin&#39;s Notes</title>
		<link>https://xinqilin.github.io/tags/bulkhead/</link>
		<description>Recent content in Bulkhead on Bill.Lin&#39;s Notes</description>
		<generator>Hugo</generator>
		<language>zh-tw</language>
		
		
		
		
			<lastBuildDate>Sun, 22 Nov 2026 00:00:00 +0800</lastBuildDate>
		
			<atom:link href="https://xinqilin.github.io/tags/bulkhead/index.xml" rel="self" type="application/rss+xml" />
			<item>
				<title>Circuit Breaker 與 Bulkhead：讓一個壞掉的下游不會拖垮整個系統</title>
				<link>https://xinqilin.github.io/post/systemdesign/circuit-breaker-bulkhead/</link>
				<pubDate>Sun, 22 Nov 2026 00:00:00 +0800</pubDate>
				<guid>https://xinqilin.github.io/post/systemdesign/circuit-breaker-bulkhead/</guid>
				<description>&lt;blockquote&gt;&#xA;&lt;p&gt;&lt;strong&gt;System Design 系列&lt;/strong&gt; Part 6-3｜上一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/timeout-retry-backoff/&#34;&gt;Timeout、Retry、Backoff 與 Jitter&lt;/a&gt;｜下一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/rate-limiting/&#34;&gt;Rate Limiting&lt;/a&gt;｜&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/system-design-thinking/#%E7%B3%BB%E5%88%97%E5%9C%B0%E5%9C%96&#34;&gt;系列地圖&lt;/a&gt;&lt;/p&gt;&#xA;&lt;/blockquote&gt;&#xA;&lt;h2 id=&#34;情境與問題&#34;&gt;情境與問題&lt;/h2&gt;&#xA;&lt;p&gt;&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/timeout-retry-backoff/&#34;&gt;上一篇&lt;/a&gt;替金流呼叫加上了 1 秒的逾時、有預算的重試。金流服務再次故障時，報名服務不再卡死了，但還有兩個問題：&lt;/p&gt;&#xA;&lt;ol&gt;&#xA;&lt;li&gt;&lt;strong&gt;每個請求都要等滿 1 秒才失敗&lt;/strong&gt;。金流已經壞了 5 分鐘，報名服務仍然對每一個請求送出呼叫、等 1 秒、得到逾時。使用者每次都等 1 秒才看到錯誤，金流服務也持續收到請求，沒有喘息的機會&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;慢的金流拖累了不相關的功能&lt;/strong&gt;。平常金流回應 50 毫秒，每秒 200 個報名請求，同時在等待金流的請求大約 200 × 0.05 = 10 個（&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/latency-throughput/&#34;&gt;Little&amp;rsquo;s Law&lt;/a&gt;）。金流變慢到 1 秒逾時，同時在等待的請求變成 200 個。它們佔住了執行緒、連到下游的連線、記憶體，查詢講座、登入這些完全不需要金流的功能也跟著變慢&lt;/li&gt;&#xA;&lt;/ol&gt;&#xA;&lt;p&gt;第一個問題由 &lt;strong&gt;circuit breaker&lt;/strong&gt;（斷路器）解決：下游已知故障時，不要再呼叫它，直接失敗。第二個問題由 &lt;strong&gt;bulkhead&lt;/strong&gt;（艙壁）解決：每個下游只能用掉有限的資源，一個下游出事，不會淹沒整艘船。&lt;/p&gt;&#xA;&lt;h2 id=&#34;最簡單的做法與它的極限&#34;&gt;最簡單的做法與它的極限&lt;/h2&gt;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;&lt;strong&gt;手動開關&lt;/strong&gt;：金流故障時，工程師改設定關掉付款功能。反應要幾分鐘，而且要有人在半夜被叫起來；恢復時也要記得打開&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;加大執行緒池或改用虛擬執行緒&lt;/strong&gt;：虛擬執行緒讓「執行緒不夠」不再是瓶頸，但瓶頸只是往下移：200 個同時等待的請求仍然佔著連線、記憶體與上游的耐心。沒有上限的並行，等於把所有資源都押在最慢的那個下游上&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;h2 id=&#34;核心機制&#34;&gt;核心機制&lt;/h2&gt;&#xA;&lt;h3 id=&#34;circuit-breaker-的三個狀態&#34;&gt;Circuit breaker 的三個狀態&lt;/h3&gt;&#xA;&lt;pre class=&#34;mermaid&#34;&gt;stateDiagram-v2&#xA;    [*] --&gt; Closed&#xA;    Closed --&gt; Open: 失敗率或慢呼叫比例超過門檻&#xA;    Open --&gt; HalfOpen: 等待一段時間&#xA;    HalfOpen --&gt; Closed: 試探的呼叫大多成功&#xA;    HalfOpen --&gt; Open: 試探的呼叫仍然失敗&#xA;&lt;/pre&gt;&#xA;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;&lt;strong&gt;Closed&lt;/strong&gt;（關閉，電流通過）：正常呼叫，同時統計最近一段時間的結果&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;Open&lt;/strong&gt;（打開，電流切斷）：失敗率超過門檻，之後的呼叫&lt;strong&gt;不送出&lt;/strong&gt;，直接拋出例外。失敗只要幾微秒，而不是等 1 秒逾時&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;Half-open&lt;/strong&gt;（半開）：等待一段時間後，放少量的呼叫過去試探。成功就回到 closed，失敗就再打開&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;p&gt;斷路器同時保護兩邊：呼叫端不再浪費資源等待注定失敗的呼叫；下游少了大量請求，才有機會恢復。&lt;/p&gt;</description>
			</item>
	</channel>
</rss>
