Saturation point 的核心概念是「系統 latency 從線性穩態進入指數成長的流量臨界點」。容量曲線分三段:linear → knee → cliff。knee point 是設計容量上限(safe operating zone 的邊界)、cliff 是延遲失控、吞吐量開始下降的區段;進入 cliff 之後服務呈現哪一種結果(請求失敗、無回應、程序終止),見 9.16 負載超過容量時服務的表現。可先對照 Load Test。

概念位置

Saturation 指進入 latency 不可預測區:程序仍在、請求仍在完成,與程序終止是不同的狀態。健康系統運轉在 knee point 以下 50-70%。M/M/c queueing theory 顯示:utilization 接近 80% 時、queue length 跟 latency 指數成長 — 這個 80% 就是常見的 knee。可先對照 Little’s Law。

可觀察訊號與例子

Saturation point 出現的訊號是「pressure 增加 10%、latency 增加 100%」。對應案例:Tixcraft DynamoDB IOPS 從 20 衝到 135K — partition 設計均勻時 saturation point 推到極遠;hot partition 場景下 saturation point 提前出現、即使整體 capacity 還有餘。

設計責任

容量規劃必須先量出 saturation point、再以 headroom 規劃實際 capacity。沒有量過 saturation point 的系統,不知道負載再增加多少就會進入 cliff。每次重大改動後 re-test、確認 knee 沒往不好的方向移。