"Load-Balancing"
- 反向代理的職責
釐清反向代理在單一入口後面承擔哪些職責、TLS 終止與路由怎麼設計、以及一條請求路徑上的 timeout 為什麼要由外到內遞減時回來讀
- 負載分散演算法
在 round-robin、least-connections、IP hash、consistent hash 之間選負載分散演算法時,用請求成本是否均勻、實例是否同質、需不需要親和性當判準
- nginx 實務配置
用 nginx 當反向代理配 upstream、負載分散方法、健康檢查與 timeout 時,特別是要知道開源版的主動健康檢查限制與 proxy header 陷阱時回來讀
- 健康檢查路由設計
設計負載平衡的健康檢查時,釐清被動與主動探測的差別、interval 與 threshold 怎麼定出兩個時間窗口、以及為什麼 LB 顯示 healthy 不等於服務可服務
- LB 是水平擴展的前提
想靠加實例分攤流量卻發現擴不動時,釐清水平擴展的兩個前提——流量要分得進新實例(LB)、任何實例要能接任何請求(無狀態)