<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
	<channel>
		<title>Consistency on Bill.Lin&#39;s Notes</title>
		<link>https://xinqilin.github.io/tags/consistency/</link>
		<description>Recent content in Consistency on Bill.Lin&#39;s Notes</description>
		<generator>Hugo</generator>
		<language>zh-tw</language>
		
		
		
		
			<lastBuildDate>Sun, 22 Nov 2026 00:00:00 +0800</lastBuildDate>
		
			<atom:link href="https://xinqilin.github.io/tags/consistency/index.xml" rel="self" type="application/rss+xml" />
			<item>
				<title>Cache 深入：命中率的數學、寫入順序的競態、穿透擊穿雪崩與多層快取</title>
				<link>https://xinqilin.github.io/post/systemdesign/caching/</link>
				<pubDate>Sun, 22 Nov 2026 00:00:00 +0800</pubDate>
				<guid>https://xinqilin.github.io/post/systemdesign/caching/</guid>
				<description>&lt;blockquote&gt;&#xA;&lt;p&gt;&lt;strong&gt;System Design 系列&lt;/strong&gt; Part 2-3｜上一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/load-balancing/&#34;&gt;Load Balancing 深入&lt;/a&gt;｜下一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/cdn/&#34;&gt;CDN 與 HTTP 快取&lt;/a&gt;｜&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/system-design-thinking/#%E7%B3%BB%E5%88%97%E5%9C%B0%E5%9C%96&#34;&gt;系列地圖&lt;/a&gt;&lt;/p&gt;&#xA;&lt;/blockquote&gt;&#xA;&lt;h2 id=&#34;情境與問題&#34;&gt;情境與問題&lt;/h2&gt;&#xA;&lt;p&gt;商品詳情 API 在大促時有每秒 10,000 個請求，讀寫比大約 200:1。MySQL 主庫的 p99 從 20 ms 漲到 400 ms，你在前面加了一層 Redis：先查快取，查不到再查資料庫並寫回快取。資料庫的 QPS 立刻從 10,000 掉到 1,000，問題看似解決了。接下來幾週陸續發生：&lt;/p&gt;&#xA;&lt;ol&gt;&#xA;&lt;li&gt;營運改了價格，部分使用者看到舊價格長達 30 分鐘&lt;/li&gt;&#xA;&lt;li&gt;最熱門的商品 key 過期的那一瞬間，3,000 個請求同時打到資料庫&lt;/li&gt;&#xA;&lt;li&gt;爬蟲用不存在的商品 ID 掃描，每個請求都查不到快取、直接打資料庫&lt;/li&gt;&#xA;&lt;li&gt;凌晨批次預熱的 20 萬個 key 在同一時間過期，資料庫被打掛；某次 Redis 重啟，情況更糟&lt;/li&gt;&#xA;&lt;li&gt;訂單查詢也比照辦理加了快取，結果使用者 A 看得到使用者 B 的訂單&lt;/li&gt;&#xA;&lt;/ol&gt;&#xA;&lt;p&gt;快取讓讀取變快，代價是系統裡多了&lt;strong&gt;第二份資料&lt;/strong&gt;。兩份資料之間的一致性、什麼時候失效、裝不下時丟掉誰、快取本身掛掉時會怎樣，全部都要設計。&lt;/p&gt;&#xA;&lt;h2 id=&#34;最簡單的做法與它的極限&#34;&gt;最簡單的做法與它的極限&lt;/h2&gt;&#xA;&lt;p&gt;最簡單的快取是放在應用程式記憶體裡的 &lt;code&gt;Map&lt;/code&gt; 或 Caffeine，存取只要幾十奈秒，沒有網路成本。極限有三個：&lt;/p&gt;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;&lt;strong&gt;每台各存一份&lt;/strong&gt;：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/scaling-stateless/&#34;&gt;無狀態服務&lt;/a&gt;有 10 台，同一筆資料就有 10 份，更新時要通知每一台&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;容量受限於 JVM heap&lt;/strong&gt;：放太多會拉長 GC 停頓&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;重啟就清空&lt;/strong&gt;：部署後每台都要重新暖機&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;p&gt;集中式快取（Redis）解決了這三點，代價是每次存取多一趟網路（同機房約 0.2–1 ms）、序列化成本，以及一個新的故障點。&lt;/p&gt;</description>
			</item>
			<item>
				<title>CAP 與 PACELC：斷線時選一致還是可用，沒斷線時選延遲還是一致</title>
				<link>https://xinqilin.github.io/post/systemdesign/cap-pacelc/</link>
				<pubDate>Sun, 22 Nov 2026 00:00:00 +0800</pubDate>
				<guid>https://xinqilin.github.io/post/systemdesign/cap-pacelc/</guid>
				<description>&lt;blockquote&gt;&#xA;&lt;p&gt;&lt;strong&gt;System Design 系列&lt;/strong&gt; Part 4-5｜上一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/distributed-id/&#34;&gt;分散式 ID&lt;/a&gt;｜下一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/consensus-raft/&#34;&gt;共識與 Raft&lt;/a&gt;｜&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/system-design-thinking/#%E7%B3%BB%E5%88%97%E5%9C%B0%E5%9C%96&#34;&gt;系列地圖&lt;/a&gt;&lt;/p&gt;&#xA;&lt;/blockquote&gt;&#xA;&lt;h2 id=&#34;情境與問題&#34;&gt;情境與問題&lt;/h2&gt;&#xA;&lt;p&gt;講座平台拓展到日本，在東京開了第二個機房，資料在台北與東京之間複製。日本的使用者讀取變快了，台北機房整個故障時也還有東京可以接手。但團隊馬上遇到兩個問題：&lt;/p&gt;&#xA;&lt;ol&gt;&#xA;&lt;li&gt;&lt;strong&gt;台北與東京之間的網路斷了&lt;/strong&gt;（光纖被挖斷、跨國線路壅塞），兩邊都還活著，只是彼此聯絡不上。這時東京的使用者報名同一個座位、修改個人簡介、回報觀看進度，系統要怎麼反應？&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;網路正常的時候&lt;/strong&gt;，每次寫入要不要等另一個機房確認？等的話，每次寫入多 30 毫秒；不等的話，另一個機房可能讀到舊資料&lt;/li&gt;&#xA;&lt;/ol&gt;&#xA;&lt;h2 id=&#34;最簡單的做法與它的極限&#34;&gt;最簡單的做法與它的極限&lt;/h2&gt;&#xA;&lt;p&gt;最常聽到的說法是「CAP 三選二：一致性、可用性、分割容忍，只能選兩個」，然後把資料庫分成 CA、CP、AP 三類。這個說法有兩個問題：&lt;/p&gt;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;&lt;strong&gt;分割不是可以選擇不要的東西&lt;/strong&gt;：只要資料放在兩台以上透過網路連接的機器上，網路就可能斷。真正的選擇只在&lt;strong&gt;發生分割的時候&lt;/strong&gt;才出現：要一致，還是要可用&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;沒有分割的時候也有取捨&lt;/strong&gt;：而且這個取捨每一個請求都要面對，就是上面的第 2 個問題。CAP 完全沒有談到它&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;h2 id=&#34;核心機制&#34;&gt;核心機制&lt;/h2&gt;&#xA;&lt;h3 id=&#34;cap-實際上說的是什麼&#34;&gt;CAP 實際上說的是什麼&lt;/h3&gt;&#xA;&lt;p&gt;CAP 定理（Gilbert 與 Lynch 在 2002 年證明）裡的三個詞有很精確的定義：&lt;/p&gt;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;&lt;strong&gt;C（一致性）&lt;strong&gt;指的是&lt;/strong&gt;線性一致&lt;/strong&gt;（linearizability）：所有操作看起來像是在某個時間點瞬間完成，而且一旦某次寫入完成，之後開始的任何讀取都會看到它或更新的值&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;A（可用性）&lt;/strong&gt;：每一個沒有故障的節點收到請求，最終都要回覆一個非錯誤的結果&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;P（分割容忍）&lt;/strong&gt;：節點之間的訊息可能遺失任意多個&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;p&gt;證明很直觀：&lt;/p&gt;&#xA;&lt;pre class=&#34;mermaid&#34;&gt;sequenceDiagram&#xA;    participant U1 as 台北的使用者&#xA;    participant T as 台北節點&#xA;    participant J as 東京節點&#xA;    participant U2 as 東京的使用者&#xA;    Note over T,J: 網路斷線&#xA;    U1-&gt;&gt;T: 座位 12 給會員 A&#xA;    T--&gt;&gt;U1: 成功&#xA;    U2-&gt;&gt;J: 座位 12 還空著嗎？&#xA;    Note over J: 聯絡不上台北，只有兩個選擇&#xA;    J--&gt;&gt;U2: 回覆「空著」（舊資料，放棄 C）&#xA;    J--xU2: 拒絕或一直等（放棄 A）&#xA;&lt;/pre&gt;&#xA;&#xA;&lt;p&gt;東京節點不知道台北發生了什麼，它只能回覆可能過時的資料，或者不回覆。&lt;/p&gt;</description>
			</item>
			<item>
				<title>Replication 與 Replication Lag：讀寫分離之後，使用者為什麼讀不到自己剛寫的資料</title>
				<link>https://xinqilin.github.io/post/systemdesign/replication-lag/</link>
				<pubDate>Sun, 22 Nov 2026 00:00:00 +0800</pubDate>
				<guid>https://xinqilin.github.io/post/systemdesign/replication-lag/</guid>
				<description>&lt;blockquote&gt;&#xA;&lt;p&gt;&lt;strong&gt;System Design 系列&lt;/strong&gt; Part 4-1｜上一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/geohash/&#34;&gt;Geohash 與地理索引&lt;/a&gt;｜下一篇：&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/sharding/&#34;&gt;Sharding&lt;/a&gt;｜&lt;a href=&#34;https://xinqilin.github.io/post/systemdesign/system-design-thinking/#%E7%B3%BB%E5%88%97%E5%9C%B0%E5%9C%96&#34;&gt;系列地圖&lt;/a&gt;&lt;/p&gt;&#xA;&lt;/blockquote&gt;&#xA;&lt;h2 id=&#34;情境與問題&#34;&gt;情境與問題&lt;/h2&gt;&#xA;&lt;p&gt;講座平台的讀寫比約 50 : 1，尖峰每秒 1 萬次讀取、200 次寫入，primary 的 CPU 長期在 80% 以上。團隊加了兩台 read replica，把查詢導過去，primary 的負載立刻降下來。但上線一週後，客服收到三種抱怨：&lt;/p&gt;&#xA;&lt;ol&gt;&#xA;&lt;li&gt;「我改了個人簡介，重新整理後還是舊的。」&lt;/li&gt;&#xA;&lt;li&gt;「報名成功後，『我的報名』清單裡有這場；再整理一次就不見了，再整理又出現。」&lt;/li&gt;&#xA;&lt;li&gt;primary 當機、切換到 replica 之後，最後幾秒的報名紀錄不見了。&lt;/li&gt;&#xA;&lt;/ol&gt;&#xA;&lt;p&gt;這三個問題都來自同一件事：&lt;strong&gt;replica 的資料比 primary 晚&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;h2 id=&#34;最簡單的做法與它的極限&#34;&gt;最簡單的做法與它的極限&lt;/h2&gt;&#xA;&lt;p&gt;最簡單的做法是全部讀 primary，完全沒有延遲問題，但讀取量會被單台主機的上限卡住。加 replica 可以水平擴展讀取，代價是要回答：&lt;strong&gt;哪些讀取可以接受舊資料、能接受多舊&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;p&gt;延遲通常只有幾十毫秒，所以測試環境很難重現。但它有長尾：replica 在套用一個大交易時（例如每月結算一次更新 300 萬列），後面的交易常常要排在它後面，延遲會一路累積到好幾秒。用非同步複寫時，primary 在延遲 200 毫秒的瞬間當機，以每秒 200 次寫入計算，大約有 40 筆已經回覆使用者成功的交易還沒送到 replica；延遲尖峰 8 秒時就是 1,600 筆。&lt;/p&gt;&#xA;&lt;h2 id=&#34;核心機制&#34;&gt;核心機制&lt;/h2&gt;&#xA;&lt;h3 id=&#34;複寫在複製什麼&#34;&gt;複寫在複製什麼&lt;/h3&gt;&#xA;&lt;ul&gt;&#xA;&lt;li&gt;&lt;strong&gt;Statement-based&lt;/strong&gt;：複製 SQL 敘述本身。資料量小，但 &lt;code&gt;NOW()&lt;/code&gt;、&lt;code&gt;UUID()&lt;/code&gt;、沒有 &lt;code&gt;ORDER BY&lt;/code&gt; 的 &lt;code&gt;LIMIT&lt;/code&gt; 在 replica 上重新執行，結果可能不同&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;Row-based&lt;/strong&gt;：複製每一列實際的變更。結果一定相同，但一個更新 300 萬列的 &lt;code&gt;UPDATE&lt;/code&gt; 會變成 300 萬筆列事件。MySQL 預設使用 row-based，而且切換格式這件事從 8.0 起已被標為 deprecated，未來會只剩 row-based&lt;/li&gt;&#xA;&lt;li&gt;&lt;strong&gt;實體複寫&lt;/strong&gt;：PostgreSQL 的 streaming replication 直接傳送 WAL，也就是資料頁層級的變更，replica 是 primary 逐位元組的副本，主要版本必須相同&lt;/li&gt;&#xA;&lt;/ul&gt;&#xA;&lt;h3 id=&#34;mysql-的複寫流程&#34;&gt;MySQL 的複寫流程&lt;/h3&gt;&#xA;&lt;pre class=&#34;mermaid&#34;&gt;sequenceDiagram&#xA;    participant A as 應用程式&#xA;    participant S as Source（primary）&#xA;    participant R as Replica&#xA;    A-&gt;&gt;S: COMMIT&#xA;    S-&gt;&gt;S: 寫入 binlog、提交交易&#xA;    S--&gt;&gt;A: OK（非同步複寫不等 replica）&#xA;    S-&gt;&gt;R: dump thread 傳送 binlog 事件&#xA;    R-&gt;&gt;R: receiver thread 寫入 relay log&#xA;    R-&gt;&gt;R: applier threads 套用交易&#xA;&lt;/pre&gt;&#xA;&#xA;&lt;p&gt;延遲可能卡在任何一段：網路、relay log 的寫入、applier 的套用速度。MySQL 8.4 的 replica 預設有 4 個 applier thread 平行套用，但大交易、DDL、replica 的硬體比 primary 差、replica 上有吃資源的報表查詢，都會讓 applier 跟不上。&lt;/p&gt;</description>
			</item>
	</channel>
</rss>
