前置知識卡片 on Tarragon

Knowledge Cards

Mon, 11 May 2026 00:00:00 +0000

前置知識卡片的目標是把本地 LLM 章節會用到的高密度術語拆成可獨立閱讀的概念。模組零的心智模型文章會引用 token、自回歸、KV cache、量化、speculative decoding、MTP、MLX、推論伺服器、OpenAI 相容 API 等詞彙；這些詞彙背後都有明確的角色、訊號與設計責任。

這個模組先建立共同語言。每張卡片只處理一個概念，並用「概念位置、可觀察訊號、接近真實的例子、設計責任」說明它在本地 LLM 生態中的角色。讀者可以從章節中遇到陌生詞時點進來補完，回到原章節仍能接續閱讀。

卡片分類

模型輸出機制

卡片	核心問題
Token	模型如何把文字切成可運算單位
Autoregressive	模型如何一次生一個 token
Tokens Per Second	生字速度如何被量化
TTFT	從送出 prompt 到第一個 token 的等待時間
Context Window	模型一次能處理多少 token
Prefill	prompt 首次處理時的計算階段
KV Cache	已處理過的 token 如何避免重算

模型權重與量化

卡片	核心問題
Quantization	模型權重如何用較少 bits 表示
GGUF	llama.cpp 系統如何打包模型權重
Instruction-Tuned Model	模型如何跟著 prompt 走
Base Model	未微調的原始模型適合什麼用途
Embedding Model	文字如何轉成可比對的向量
Model Card	判讀模型來源、訓練資料、授權的 metadata

推論加速技巧

卡片	核心問題
Speculative Decoding	怎麼一次生多個 token
Multi-Token Prediction	speculative decoding 的工程化實作
Drafter Model	預測未來 token 的小模型

推論基礎建設

卡片	核心問題
Three-Layer Architecture	介面 / 伺服器 / 模型三層分工心智模型
Inference Server	載入模型、提供 API 的常駐 process
OpenAI 相容 API	介面層跟伺服器層之間的標準介面
Model Tag	推論伺服器如何指名某個模型版本
MLX	Apple Silicon 的數值運算 framework
oMLX	MLX-backed 長 context 推論伺服器路線
Local vs Cloud LLM	本地與雲端模型的任務分工取捨

macOS 與 shell 基礎

讓對 Mac 操作不熟的讀者也能跟上本地 LLM 章節。這組卡片不算 LLM 領域知識、但本地 LLM 章節必然會碰到。

卡片	核心問題
Homebrew	macOS 上 CLI 工具的標準安裝入口
launchd Service	讓 Ollama 等服務開機自動啟動的 macOS 機制
Shell 背景 Process	前景 vs 背景、`&`、`Ctrl+C`、找 process 的方法
Port 與 Localhost	server 暴露在哪個地址、誰能連進來

硬體與架構

卡片	核心問題
Memory Bandwidth	為什麼記憶體頻寬決定生字速度
Unified Memory Architecture	Apple Silicon 怎麼讓模型用滿大記憶體
VRAM	獨立 GPU 場景的顯卡記憶體、跟系統 RAM 分層
PCIe	GPU 跟主機板之間的高速序列匯流排
NVLink	NVIDIA 多卡互連、跟 PCIe 比的卡間頻寬優勢
GPU Compute Backend	CUDA / ROCm / Vulkan / Metal / SYCL 對照
Transformer	寫 code 用的 LLM 是哪種神經網路
Attention	Transformer 內部讓 token 互相加權平均的機制
Self-Attention	Q/K/V 都來自同一序列的 attention、LLM 標誌
Multi-Head Attention	把 attention 切成多個 head 並行、MHA/GQA/MLA
Causal Mask	擋掉「未來位置」的遮罩、decoder-only 的標誌
RoPE	用旋轉矩陣編碼位置、Llama / Gemma / Qwen 主流
Positional Encoding	把 token 位置資訊注入 Transformer
Flash Attention	Attention 計算的記憶體友善實作
Grouped-Query Attention	多個 query head 共用較少 K/V head
FFN	Transformer block 內部的兩層 linear、參數大頭
Activation Function	FFN 內的非線性、讓深度網路真的「深」起來
Layer Normalization	對 hidden state 正規化、穩定深層訓練
Residual Connection	layer 輸入直接加到輸出、讓 gradient 能回流深層
Residual Stream	Transformer block 間累積資訊的 hidden state 通道
Embedding Layer	Transformer 第一層、把 token ID 轉成向量
Forward Pass	input 流經所有 layer 的單向計算流程
Diffusion	產圖用的是哪種神經網路

線性代數基礎

卡片	核心問題
Tensor	多維陣列、framework 核心型別
Vector Norm	衡量向量大小、L1 / L2 / L∞ 的不同用途
Dot Product	兩向量相乘加總、attention / similarity 基礎
Matrix Multiplication	LLM 推論最頻繁的單一運算、memory bandwidth bound
Floating Point	FP32 / FP16 / BF16 的位元結構與精度取捨

LLM 機率與資訊論

卡片	核心問題
Softmax	把實數向量轉成機率分佈、attention / sampling 共用
Logit	softmax 之前的原始分數、可正可負
Entropy	分佈的不確定性、cross-entropy / KL 的基底
Cross-Entropy	預測分佈跟真實分佈的距離、預訓練主要 loss
Perplexity	cross-entropy 的指數形式、人類直覺較好讀
KL Divergence	兩個分佈的不對稱差距、RLHF / DPO 的 alignment 約束

LLM 訓練流程

卡片	核心問題
Loss Function	訓練最佳化的目標、量化「預測 vs 真實」的差距
Gradient	該往哪個方向調權重才能降 loss
Backpropagation	從 output loss 反向算出每個權重 gradient 的演算法
Gradient Explosion / Vanishing	深層網路 chain rule 累乘的兩種失敗模式
Learning Rate	gradient descent 每步幅度、最敏感的 hyperparameter
SGD	用 mini-batch 算 gradient 更新的基礎 optimizer
Adam / AdamW	對每個參數自適應 lr、LLM 訓練主流 optimizer
Pre-training	第一階段、用 trillion-token 做 next-token prediction
SFT	第二階段、用「指令-回答」對 fine-tune
RLHF	用人類偏好 + reward model + RL 對齊
DPO	RLHF 的簡化替代、直接從偏好資料 fine-tune
LoRA	凍住原權重、只訓兩個小矩陣的 PEFT
QLoRA	LoRA + 4-bit 量化、消費級 GPU 也能 fine-tune 大模型
Catastrophic Forgetting	Fine-tune 覆蓋掉原有能力的現象、LoRA + 資料 mixing 緩解
Contrastive Learning	Embedding model 的訓練 paradigm、相關靠近 / 無關遠離
In-Context Learning	不更新權重、從 prompt 內範例與規則臨時對齊任務

Reasoning Models

卡片	核心問題
Chain-of-Thought	讓 LLM 先推理再答的 prompting / 訓練機制
Test-Time Compute	推論時動態增加算力換答案品質的 paradigm
Reasoning Model	o1 / R1 / QwQ 等內建長 reasoning trace 的 LLM family

Vision / 多模態

卡片	核心問題
VLM	同時吃圖 + 文字輸入的 LLM 變體、coding 場景的 vision 基底
Vision Encoder	VLM 內部把圖轉成向量序列的模組、ViT / CLIP 為主流
Image Token	VLM 把圖變成跟 text token 同質的向量、計入 context
CLIP	OpenAI contrastive 預訓練、現代 vision encoder 起點
Multimodal Fusion	Vision + LLM 結合方式：early / cross-attention / native

Deployment / 靜態場景

卡片	核心問題
Client-Side LLM	在 browser 跑 LLM / embedding、WebLLM / transformers.js

Coding Agent 工程

卡片	核心問題
Scaffold vs Harness	Coding agent 的兩個工程層次：建構時靜態 vs runtime 動態
Context Budget	Coding agent context window 拆分配額、25% 規則
Subagent	把特定責任拆給專門子 agent、各自獨立 context、用 handoff 調度
Prompt Cache	重複 prefix 的 KV cache 服務端持久化、90% cost 折扣
Agent Memory	Working / session / episodic / semantic / procedural 四層

Production / Observability

卡片	核心問題
LLM Tracing	OpenTelemetry GenAI semconv、結構化 span 編碼 LLM 應用
LLM-as-Judge	用 LLM 評另一個 LLM、production eval 主流方法

Retrieval 進階

卡片	核心問題
Retrieval Source	RAG 從哪個 corpus / index / tool 取回內容、如何追溯來源
Retrieval Cost	每次 retrieve 與增強帶來的 latency / token / 維護成本
Query-Document Gap	query 與 document 語言形狀落差造成 retrieval miss
Retrieval Recall	expected chunk 是否出現在 retrieval top-k 結果中
Reranker	Cross-encoder 對 retrieval top-K 重新排序、RAG 第二階段
Hybrid Search	BM25（字面）+ embedding（語意）合併、補單一路線盲點

Constrained / Structured Output

卡片	核心問題
Structured Output	讓模型輸出固定格式、可被 parser 穩定消費
Sampling Constraint	推論時限制下一個 token 候選集合
Constrained Decoding	推論時 grammar mask 強制合法 JSON / regex / CFG、反而加速
Grammar	用形式規則描述合法輸出字串
BNF	用產生式描述 context-free grammar 的經典記法
Lark Grammar	Python Lark parser 使用的 EBNF-like grammar 格式
DSL	為特定領域設計的小語言、作為 LLM 可解析的中介輸出
Training Example Coverage	訓練範例是否覆蓋足夠情境、決定能力穩定性
Capability Spectrum	把模型能力視為光譜、用覆蓋度與失敗模式判讀可用性

安全 / 合規

卡片	核心問題
OWASP LLM Top 10	LLM 應用最常見 10 大資安風險、跟企業合規溝通的共同詞彙

Tokenization

卡片	核心問題
BPE	用「最常字元對」合併建詞彙、GPT / Llama 主流
WordPiece	以 likelihood improvement 選擇子詞合併
Unigram Tokenizer	用機率模型選擇最可能的子詞切分
SentencePiece	Google 開源多語言 tokenization 框架
Vocabulary Size	詞彙表大小、影響 embedding / 多語言友善度
Special Tokens	邊界 / 角色 / tool call 等特殊用途 token

Sampling 策略

卡片	核心問題
Beam Search	保留 K 條候選的 decoding、translation 主流
Top-K / Top-P / Min-P	過濾低機率 token 後取樣、現代 LLM 主流

推論加速進階

卡片	核心問題
Acceptance Rate	speculative decoding 中 drafter 提案被接受的比例

評估指標 / Benchmark

卡片	核心問題
SWE-bench	coding 能力如何被量化比較
LLM Benchmarks	MMLU / HumanEval / SWE-bench 等覆蓋範圍與失效情境
MTEB	Embedding model 跨任務通用能力的標準 benchmark
Needle in Haystack	把事實藏在 long context 不同位置的 retrieval 測試
Lost in the Middle	Long context 中段內容 recall 顯著降的現象

應用層模式

卡片	核心問題
RAG	怎麼給 LLM 動態外掛知識
Query Rewriting	檢索前把 query 改寫成更接近文件語言
Query Expansion	把一個 query 擴成多個語意變體再合併結果
Query Decomposition	把複合 query 拆成可獨立檢索的子 query
Multi-Step Retrieval	多輪 retrieve → 判斷 → 再 retrieve 的控制流
Adaptive Retrieval	先判斷是否需要檢索、再決定 retrieve
Context Packing	retrieve 後把 chunks 去重、排序、壓縮、標來源再塞進 prompt
LLM Agent	把控制流交給 LLM 的應用模式
Agent Loop	plan → act → observe 的自我循環、injection 放大器
Context Drift	Agent 長任務中累積 context 偏離原始目標
Goal Drift	Agent 把子目標誤當整體完成條件
Tool Result Misread	Agent 誤讀工具輸出、把錯誤當成功
Tool Use	LLM 透過結構化呼叫外部工具擴展能力的設計
Function Calling	模型訓練建立的呼叫工具能力
MCP	LLM application ↔ tool server 的標準化協議
Agent-as-Tool	把專責 agent 封裝成另一個 agent 可呼叫的 tool
System Prompt	開發者預設、不直接顯示給使用者的指令層
Chunking	把長文件切成 retrieval 片段的 resolution vs context loss 取捨
Vector Database	高維向量儲存 + ANN 檢索、RAG production 的關鍵元件
Multi-agent system	多 agent 協作系統、跟 multi-call 差在控制流跟責任邊界
HyDE	用假設文件 embedding 繞過 query-document gap

Prompt 技術

卡片	核心問題
Chain-of-Thought	讓 LLM 先輸出推理步驟再給最終答案
Few-shot prompting	在 prompt 內塞範例對齊任務、跟 fine-tune 是兩個 endpoint
Instruction Following	模型遵守任務範圍、格式與限制的能力
Reflection	模型先生成再 critique 再修改、有 systematic error 失敗模式

設計典範 / 人機協作

卡片	核心問題
Deterministic vs Fuzzy engineering	LLM 軟體 vs 傳統軟體的典範差異、決定 guardrail 設計
Guardrail	在 LLM fuzzy 行為外層加上可驗證控制邊界
Human-in-the-loop（HITL）	人類介入 LLM 工作流的三時機 + 四條件
Jagged frontier	AI 能力分佈不規則的 framing、「全自動」是 over-trust
Frozen baseline	Eval 的長期對照基準、讓行為漂移可見

模型行為與安全

卡片	核心問題
Hallucination	LLM 生成看似合理但事實錯誤的內容
Prompt Injection	把惡意指令藏進 LLM 會讀到的內容、OWASP LLM01
Refusal Rate	LLM 拒絕回答的比例、production 偵測訊號
Bind Address	推論伺服器決定接受哪些網路介面的請求
Sandbox	把 tool 跟 MCP server 跑在權限受限環境的隔離技術
Model Supply-Chain Trust	模型權重、量化版本與 registry 的信任判讀
Tool-Use Permission Model	按工具副作用範圍設計權限與審查節點

Production 推論

卡片	核心問題
Batching	多 request 一起跑、攤平 memory bandwidth 成本、throughput vs latency 取捨
Prefix Cache	多個請求共用前綴的 KV cache 重用優化
MoE	Mixture of Experts 架構、總參數大但每 token 計算量小
Active Parameter	MoE 每 token 實際參與計算的參數量
MoE CPU 卸載	把 MoE 不活躍專家放系統 RAM、讓有限 VRAM 跑大模型
llama.cpp Tensor Split	多 GPU 場景把模型張量按比例切到多張卡上

卡片寫法

每張卡片維持四段：

核心概念：用一句話說明這個術語承擔什麼責任。
概念位置：說明它在本地 LLM 三層架構（介面 / 伺服器 / 模型）的哪一層、跟其他概念的關係。
可觀察訊號與例子：用真實使用情境說明這個概念何時會出現、會以什麼形式被讀者察覺。
設計責任：使用者或工程師遇到這個概念時要做哪些判斷或設定。

卡片之間互相連結，章節文章使用術語時優先連到卡片。卡片是概念索引，章節文章負責情境推導；兩者分工讓讀者可以快速查詢術語，也能完整跟著章節思考。

卡片與章節的關係

模組零的概念文章（本地 vs 雲端、為什麼 LLM 生字慢、三層架構等）會引用大量卡片術語；模組一的實作文章（Ollama 安裝、模型選型等）也會用到同一批詞彙。卡片讓兩個模組共用詞彙、避免各自重新定義。

Knowledge Cards

Thu, 23 Apr 2026 00:00:00 +0000

前置知識卡片的核心目標是把後端服務中的高密度術語拆成可獨立閱讀的 domain knowhow。服務選型文章會使用 broker、consumer lag、dead-letter、replay、降級、停機、readiness 等詞彙；這些詞彙背後都包含產品後果、操作責任與排障方式。

這個模組先建立共同語言。每張卡片只處理一個知識節點，並用「概念位置、可觀察訊號、接近真實網路服務的例子、設計責任」說明它在後端系統中的角色。

術語建卡判準

知識卡片的建卡判準是術語是否承擔理解成本與判斷成本，核心重點在它如何影響服務理解，而非只看它是否已經在多篇文章重複出現。讀者如果缺少某個名詞的服務語意，就會難以理解服務路徑、風險邊界、artifact 欄位或下一步決策，這個名詞就值得建卡。

適合建卡的術語通常有三個特徵：第一，它超過單純字面翻譯，並包含服務責任、操作條件或失敗代價；第二，讀者若缺少它就難以理解服務路徑、風險邊界或下一步決策，例如 validation query、rollback window、fallback read；第三，它可以被獨立說明成「概念位置、可觀察訊號、例子、設計責任」。出現頻率與是否影響實作判斷都可以當補充訊號，但不參與「是否要建卡」的必要判準。

不適合建卡的是過度寬泛、沒有明確服務責任的詞。若名詞只是文章中的普通形容詞、單一欄位值、或只能在該句子內成立，優先在正文補清楚，不硬拆成卡片。

資料與一致性

卡片	核心問題	常見出現位置
Database	正式狀態如何保存、查詢與保護	source of truth、transaction、backup
Source of Truth	哪個位置承擔正式資料判斷	database、cache、search index
Search Index	搜尋體驗如何有獨立讀取模型	full-text、filter、ranking
Full-Text Search	文本檢索如何支援關鍵字與相關性排序	search、documents、catalog
Facet Query	搜尋結果如何提供可篩選聚合維度	filter、aggregation、UX
Object Storage	大型檔案如何保存與控管生命週期	upload、export、backup
Event Log	歷史事件如何保存與重播	replay、audit、projection
Read Model	查詢需求如何有獨立讀取資料形狀	projection、query model
Projection	來源資料如何轉換成查詢視圖	events、materialized view
資料生命週期	資料如何建立、保留、封存與刪除	retention、audit、export
資料不一致	多份資料暫時不同步時如何辨識與修復	cache、replica、eventual consistency
Transaction	一組資料變更如何一起成功或一起回復	database、commit、rollback
Transaction Boundary	哪些變更要一起成功或回復	database、unit of work
Migration	系統如何從舊狀態受控移到新狀態	release、cutover、backfill
Schema Migration	資料庫結構如何隨版本安全演進	release、rollback、migration
Expand / Contract	先擴充相容面再收斂舊路徑的遷移做法	schema migration、online migration
Migration Gate	遷移流程如何決定能否進入下一階段	backfill、correctness check
Mapping Table	舊資料語意如何明確對應到新語意	migration、backfill、validation
Validation Query	查詢如何證明資料語意是否一致	migration、evidence package
Read Compatibility	讀取路徑如何同時支援新舊語意	expand、cutover、fallback read
Fallback Read	切換失敗時如何暫時回到舊讀取語意	cutover、rollback window
Cutover Window	正式切換如何被時間窗與訊號框住	cutover、release gate
Release Gate	變更如何在正式釋出前通過或阻擋	error budget、migration、review
Gate Decision	gate 如何把證據轉成下一步決策	release gate、rollout
Rollback Rehearsal	回滾流程如何在正式事故前演練	rollback strategy、migration
Rollback Window	變更後還能用哪種方式回退或改路線	cutover、rollback strategy
Rollback Condition	決策後何時要撤回、回退或改路線	incident decision、rollback
Fail-forward	舊狀態已失效時如何受控前進修復	rollback window、incident decision
Stop Condition	何時必須暫停、回退或改路線	release gate、incident decision
Isolation Level	並發交易彼此看見哪些資料	transaction、lock、retry
Connection Pool	application 如何限制下游連線壓力	database、Redis、broker
Database Sharding	資料庫如何依 shard key 分散與路由	Vitess、Citus、tenant key
Write-Ahead Log	寫入如何先記 log 再合併以支援復原	WAL、checkpoint、recovery
Single Writer Model	寫入如何被序列化成單一路徑	SQLite、primary lease、容量上限
Embedded Database	資料庫如何隨 application process 運作	SQLite、檔案生命週期、本地儲存
Metadata Lock	DDL 與既有交易如何在 schema 層互相阻塞	ALTER、長交易、DDL window
Table Partitioning	大表如何在單庫內拆成多個分區	range/list/hash、pruning、retention
Read-Write Split	讀寫流量如何分流到 primary 與 replica	proxy、replica lag、read-after-write
Transaction Pooling	連線如何只綁定單一 transaction	pooler、session state、SET LOCAL
Document Store	資料如何以 JSON 文件與彈性 schema 存取	JSON、巢狀結構、index
Local-First	資料如何本機優先並離線可用	離線、多端同步、行動 app
Read-After-Write Consistency	寫入後能否立即讀到該筆寫入	primary、lag guard、session
Type Affinity	SQLite 欄位型別如何是傾向而非硬約束	SQLite、storage class、STRICT

快取與流量

卡片	核心問題	常見出現位置
Timeout	單一步驟最久可以等待多久	API、database、broker
Deadline	整體操作何時必須完成	request、job、workflow
Exponential Backoff	重試間隔如何逐步拉長	retry、API、worker
Jitter	如何分散同步重試與排程尖峰	retry、TTL、reconnect
Retry Storm	大量重試如何放大下游壓力	timeout、dependency failure
Thundering Herd	大量工作同時醒來如何形成尖峰	reconnect、cache、lock
Transient Failure	暫時性故障如何影響重試與告警	network、failover、timeout
Partial Failure	局部失效時如何保留整體可用性	distributed system、fallback
Cascading Failure	局部故障如何擴散成整體故障	dependency、retry、pool
Load Shedding	過載時如何主動拒絕低優先工作	overload、priority
Token Bucket	如何用配額與補充速率控制流量	rate limit、retry budget
Dependency Isolation	如何避免單一下游耗盡共享資源	pool、queue、dependency
Bulkhead	如何用資源分艙限制故障擴散	worker、tenant、pool
In-Process Channel	單一 process 內如何傳遞工作或訊號	channel、local queue
Local Worker	同 process 背景工作的責任與邊界	background task、shutdown
Worker Pool	如何限制同時處理量	worker、background job
HTTP Client	呼叫外部 HTTP 依賴時如何管理資源	API、dependency
Webhook	外部系統回呼事件如何驗證與處理	callback、signature、retry
WebSocket	長連線雙向即時通訊如何運作	chat、presence、push
Server-Sent Events (SSE)	HTTP 單向事件串流如何推送更新	notification、progress
Stream Pipeline	連續資料流如何管理吞吐與 backpressure	stream、CDC、ETL
Throughput	單位時間內可處理多少工作	load test、queue、broker
Buffer	暫存空間如何吸收短暫速度差	queue、socket、cache
Queue	等待處理的工作如何形成容量邊界	producer、consumer、backlog
Socket	網路連線如何成為資料讀寫與資源邊界	network、connection、timeout
Fallback	主要路徑失敗時使用什麼替代結果	degradation、circuit breaker
Fail Fast	已知會失敗時如何快速回應	circuit breaker、validation
Retry Budget	重試量如何受整體容量限制	retry、SLO、token bucket
Cache Aside	application 如何讀快取與正式來源	Redis、read path
Cache Hit / Miss	讀取是否命中快取	cache、database pressure
Cache Hit Rate	命中比例如何衡量快取效益	dashboard、capacity
Cache Warmup	正式流量前如何預先載入快取	deployment、event
Cache Prefetching	如何在資料被需要前預先載入	user flow、hot data
Cold Start	新 instance 或空快取如何造成延遲	autoscaling、readiness
Write-Through Cache	寫入時如何同步更新快取	write path、freshness
Write-Behind Cache	先寫緩衝層再非同步持久化的風險	analytics、buffer
Stale Data	過期資料如何影響產品結果	cache、replica
Soft TTL	進入刷新期後如何短暫使用舊資料	stampede、refresh
Singleflight	相同工作如何合併成一次下游請求	cache miss、hot key
TTL	資料何時自動過期	cache、session、presence
Eviction	容量不足時哪些資料會被淘汰	Redis、local cache、CDN
快取失效策略	快取資料何時更新、刪除或重建	Redis、CDN、多層快取
Hot Key	少數 key 如何形成容量瓶頸	Redis、partition、counter
Cache Stampede	快取同時 miss 如何壓垮正式來源	hot key、TTL、database
Rate Limit	如何限制主體在一段時間內的資源使用量	API、tenant、worker
Backpressure	下游變慢時如何讓上游放慢	queue、worker、stream
Buffer Pool	資料庫如何用記憶體快取磁碟頁	InnoDB、shared buffers、命中率

入口與部署

卡片	核心問題	常見出現位置
Service Endpoint	服務入口如何被路由與存取	API、service discovery、internal
Public API Endpoint	面向 client 的穩定對外入口	product API、SDK、client
API Gateway	外部流量如何集中路由、驗證與轉發	auth、rate limit、routing、request id
Request Routing	入口流量如何分派到不同服務或版本	host、path、tenant、version
Admin Endpoint	高權限管理入口如何被隔離與稽核	admin、backoffice、control plane
Diagnostic Endpoint	health、readiness 與 debug 入口	liveness、probe、metrics snapshot
Internal Endpoint	服務內部通訊入口如何受控	service-to-service、control plane
Container	服務如何被包裝成可交付單位	image、runtime、CI、Kubernetes
Load Balancer	流量如何分散、排空與導向健康節點	ingress、draining、rolling update
Draining	服務如何先停新流量再完成既有工作	rolling update、shutdown、cutover
Sticky Session	同一 client 如何維持命中同一實例	session affinity、load balancer
Idle Timeout	連線或會話多久沒活動後要回收	socket、load balancer、proxy
Health Check	平台如何快速判斷服務狀態	load balancer、probe、diagnostic
Resource Limit	服務可用的 CPU / memory 上限如何影響行為	container、scheduler、runtime
Probe	平台如何判斷存活與接流量條件	readiness、liveness、startup
Config Rollout	設定如何安全下發到運作中的服務實例	feature flag、secret、runtime config
Runtime Config	執行時設定如何被讀取、組合與覆寫	env var、secret、feature flag

通訊協定

卡片	核心問題	常見出現位置
Communication Protocol	不同系統如何對齊資料交換與錯誤語意	request/response、message、webhook
Request/Response Protocol	同步呼叫如何對齊互動規則	HTTP API、gRPC、RPC
Message Protocol	queue / stream 訊息如何對齊格式與語意	event、job、delivery
Webhook Protocol	外部回呼如何對齊簽章與 payload	callback、signature、retry

邊界與治理

卡片	核心問題	常見出現位置
Boundary Contract	邊界兩端如何維持一致約定	API contract、deployment contract、queue contract、load balancer contract
API Contract	request / response 如何維持相容	client、SDK、public API
Deployment Contract	application 與 platform 如何對齊生命週期	readiness、shutdown、rollout
Queue Contract	producer / broker / consumer 如何對齊交付語意	ack、retry、DLQ、redelivery
Load Balancer Contract	服務與流量入口如何對齊健康與切流	health check、draining、idle timeout
Integration Adapter	外部系統如何轉成內部需要的形狀	repository、payment、notification
Repository Adapter	持久化存取如何對齊應用模型	SQL、transaction、row mapping
Provider Adapter	第三方服務如何被包裝成穩定介面	payment、email、SMS、storage
Notification Adapter	通知通道如何轉成外部發送格式	email、push、webhook
Request Middleware	共通請求處理如何放在邊界上	auth、logging、tracing、validation
Authentication Middleware	請求進入前如何驗證身份	token、session、signature
Authorization Middleware	請求進入前如何判斷權限	role、tenant、resource owner
Observability Middleware	請求如何補上觀測欄位	request id、trace context
Security Middleware	請求如何套用共通安全控制	rate limit、redaction
Validation Middleware	請求如何先做共通驗證	schema、header、payload shape
Vendor Lock-In	供應商 API 滲入程式碼如何造成退出成本	adapter、exit route、選型
Capability Outsourcing Depth	外包一塊能力的三種深度如何決定控制權與遷出代價	managed 基礎設施、feature SaaS、BaaS bundle

訊息與事件

卡片	核心問題	常見出現位置
Broker	訊息離開單一 process 後由誰保存、路由與交付	queue、event、worker、stream
Topic	事件如何依主題分流給不同訂閱者	broker、event、stream
Pub/Sub	訊息如何即時分發給多個訂閱者	realtime、notification、broadcast
Fan-out	單一事件如何同時送到多個下游	topic、subscription、event flow
Durable Queue	工作如何在故障後仍可被處理	persistence、ack/nack、retry
Reliability Boundary	系統在哪些邊界內承諾可恢復傳遞	request、process、service boundary
Offline Catch-up	離線期間漏失事件如何補齊	websocket、sync、reconnect
Strong Reliability	關鍵事件如何達到高可靠路徑	payment、inventory、audit
Routing Rule	訊息如何依規則進入不同處理路徑	broker、queue、priority
Producer	誰把工作、事件或資料送入處理路徑	queue、broker、stream
Consumer	誰取得等待處理的工作並產生結果	queue、worker、side effect
Prefetch	consumer 一次可持有多少未確認訊息	broker、consumer tuning
In-Flight Message	訊息已交給 consumer 但尚未完成	consumer、shutdown
Unacked Message	broker 尚未收到 consumer 確認的訊息	queue health、prefetch
Ack / Nack	consumer 如何回報處理結果	broker、retry、DLQ
Redelivery	broker 重新投遞訊息時如何保持安全	at-least-once、idempotency
Requeue	處理失敗訊息如何重新排回 queue	retry、nack
Redelivery Loop	同一訊息反覆投遞失敗如何消耗容量	poison message、DLQ
Poison Message	特定訊息內容如何穩定造成失敗	DLQ、schema
Queue Depth	queue 中等待處理的訊息數	backlog、capacity
Publisher Confirm	producer 如何確認 broker 已接收訊息	publish、outbox
Message Persistence	訊息是否落盤保存	durability、cost
Delivery Mode	投遞模式如何影響可靠性與延遲	broker、event semantics
Delivery Semantics	事件投遞承諾如何決定補償策略	retry、idempotency、replay
Consumer Capacity	consumer 群組每秒能處理多少工作	lag、scaling
Competing Consumers	多個 consumer 如何共同處理同一 queue	worker、throughput
Consumer Group	多個 consumer 如何共同分攤 stream	Kafka、Redis Streams
Partition	事件流如何切成可並行處理片段	ordering、hot key
Offset	consumer 在事件流中的讀取位置	replay、checkpoint
Retention	資料或事件保留多久	stream、log、audit
Retry Policy	失敗後何時再試、何時停止	timeout、broker、API
Consumer Lag	consumer 處理速度落後多少	queue health、capacity、alert
Dead-Letter Queue	多次處理失敗的訊息如何隔離與診斷	retry、poison message、incident
Replay Runbook	事件重放時如何控制範圍、順序與副作用	migration、事故復原、補資料
重複投遞	同一個工作被處理多次時如何保持結果穩定	at-least-once、idempotency
Idempotency	同一操作多次執行時如何保持結果穩定	retry、payment、worker
Outbox Pattern	資料變更與事件發布如何維持一致	transaction、broker

遷移與資料同步

卡片	核心問題	常見出現位置
Online Migration	服務持續接流量時如何遷移資料	database、release
Cutover / Switchover	正式流量如何切到新路徑	migration、feature flag
Fallback Plan	變更失敗時如何回到可接受狀態	release、migration
Change Data Capture	資料變更如何被捕捉並傳送	CDC、event stream
Replication Lag	副本落後正式來源多久	replica、read model
Checkpoint	長流程如何記錄可恢復進度	backfill、consumer
Backfill	既有資料如何補上新欄位或新狀態	migration、repair
Dual Write	同一變更同時寫兩個系統的風險	migration、split service
Shadow Read	正式讀舊路徑時如何暗中比對新路徑	cutover、validation
Correctness Check	新舊結果如何依規則比對	migration、refactor
Data Completeness	資料是否完整到足以支持目標用途	migration、audit
Data Reconciliation	多來源差異如何比對與修復	payment、eventual consistency
Replication Slot	邏輯複製如何追蹤進度並保留 WAL	CDC、slot lag、磁碟壓力
Conflict Resolution	並發或離線寫入衝突如何合併	LWW、欄位合併、CRDT
Logical Replication	row-level 變更如何以表為粒度複製	physical、CDC、跨版本
Replica Identity	變更事件如何帶穩定 key 以套用 update/delete	CDC、primary key、row image
GTID	複製進度如何用全域交易識別碼表示	replication、failover、binlog
Replication Channel	多來源複製如何用獨立通道隔離	multi-source、per-channel lag
Tombstone	刪除如何用標記跨副本與裝置傳播	delete propagation、sync、CRDT

可觀測性與可靠性

卡片	核心問題	常見出現位置
Log	單一事件如何留下可搜尋的上下文	incident、debug、audit
Log Schema	log 欄位如何支援搜尋與關聯	structured log、incident
Metrics	指標如何描述趨勢、容量與健康	Prometheus、dashboard
Histogram	如何用分桶統計延遲與分布	latency、SLO
Bucket	histogram 分桶如何影響解析度	metrics、cost
Percentile	p95 / p99 如何描述長尾延遲	latency、UX
Metric Cardinality	label 組合數如何影響成本	metrics、storage、query
Trace	跨服務流程如何重建路徑與耗時	tracing、dependency
Trace Context	跨服務 request 如何串起路徑	tracing、OpenTelemetry
Trace ID	同一條 trace 的識別碼	tracing、log correlation
Span	trace 中一段工作如何記錄耗時	tracing、dependency
Correlation ID	跨事件與跨服務如何關聯業務流程	order、payment、queue
Request ID	單次 request 如何被追蹤	API、support
Dashboard	多個觀測訊號如何組成服務狀態畫面	incident、capacity、SLO
SLI / SLO	服務品質如何連到產品承諾	alert、incident、error budget
Error Budget	SLO 允許的失敗額度如何決策	release、reliability
Burn Rate	error budget 消耗速度如何告警	SLO alert
Sampling	如何抽樣觀測資料以控制成本	trace、log
Alert	服務症狀如何轉成可行動通知	on-call、SLO、incident
Runbook	事故判斷與操作步驟如何標準化	on-call、incident、replay
Alert Runbook	告警如何連到可執行排障流程	on-call、dashboard
Symptom-Based Alert	告警如何優先偵測產品症狀	SLO、on-call
Runbook Link	告警如何直接連到處理流程	alert、dashboard
Alert Fatigue	低品質告警如何降低反應品質	on-call、alert policy
降級	服務部分能力失效時如何保留核心功能	failover、fallback、capacity
Circuit Breaker	下游持續失敗時如何暫停呼叫	timeout、fallback、degradation
Failover	主要路徑失效時如何切到備援	HA、region、provider
Autoscaling	容量如何依指標自動擴縮	HPA、capacity、traffic burst
Rolling Update	版本如何逐批替換並維持可用	deployment、release
Service Registry	服務實例如何被註冊、維護與摘除	heartbeat、TTL、metadata
Service Discovery	服務實例如何被查找與路由	registry、DNS、load balancing
停機	服務中斷時要先保護哪些產品結果	incident、SLO、deployment
Readiness	instance 何時可以安全接收流量	Kubernetes、load balancer、rollout
Liveness	平台如何判斷 process 是否仍然存活	Kubernetes、systemd
Graceful Shutdown	instance 停止前如何排空流量與保存狀態	deployment、worker、long connection

效能工程與容量規劃

卡片	核心問題	常見出現位置
Little’s Law	並發、到達率、逗留時間如何相互推導	capacity、saturation、SLO
Universal Scalability Law	擴容到某點後吞吐反而下降的數學原因	scalability、coordinator、consensus
Saturation Point	latency 進入指數成長的臨界流量	knee、capacity、headroom
USE Method	資源層 Utilization / Saturation / Errors	bottleneck、resource、capacity
RED Method	請求層 Rate / Errors / Duration	SLO、latency、request
Workload Model	production traffic shape 如何量化重播	load test、capacity、forecast
Tail Latency	p99 / p999 為何比平均更能反映 saturation	SLO、GC、cross-zone
Hot Partition	單一 partition 流量過熱、名義容量達不到	DynamoDB、partition key、saturation
Peak Forecast	預期峰值如何預測 — 容量公式輸入	capacity、event、growth
Headroom Budget	容量規劃的安全餘量	capacity、AZ failover、forecast 誤差
Growth Curve	用戶 / 流量成長的五種形狀	linear、step、exponential、cyclical
Predictive Scaling	根據預測提前擴容	autoscaler、ML、daily pattern
Scheduled Scaling	按已知時間表預先擴容	event、pre-scaling、Black Friday
Shadow Traffic	production traffic 複製到新版本驗證	production validation、traffic mirror
Dark Launch	程式碼上線但 UI 入口暫不開放	feature flag、production validation
Canary Perf Check	canary release 中的 latency 退化檢查	canary、release gate、rollback
Profile Diff	比較兩次 profile 找退化原因	release、CPU、memory、lock
Continuous Profiling	production 持續取低 overhead profile	flame graph、observability、tracing
Cost Per Request	雲端成本拆到單一請求的 unit economics	FinOps、capacity、TCO
Performance Budget	跟 error budget 並列的效能退化額度	SLO、release freeze、burn rate
Latency Budget	end-to-end latency 拆到每 stage 的配額	Little’s Law、stage、reverse calculation
SLO Baseline Drift	SLO baseline 因業務變化要重新校準	review、surge、product change
OLAP Offload	分析查詢如何從 OLTP 主庫卸載	replica、資料倉儲、CDC
Per-Connection Memory	每連線記憶體如何隨並發數放大	sort/join buffer、OOM、連線數

事故處理與復盤

卡片	核心問題	常見出現位置
On-Call	值班制度如何承接告警與事故流程	paging、handover、incident
Handover Protocol	值班或事故責任如何安全交接	on-call、escalation、incident
Playbook	場景化處置如何快速啟動與執行	incident workflow、recovery
CI Pipeline	合併前如何自動驗證品質與相容性	tests、checks、merge gate
Load Test	預期流量下如何驗證容量與延遲	performance、SLO、capacity
Chaos Test	受控故障注入如何驗證韌性	resilience、failover、runbook
Game Day	事故演練如何驗證流程與協作	drill、readiness、training
Incident Severity	事故如何依產品影響分級	on-call、incident、SLO
Incident Command System	事故期間如何分配指揮與執行角色	commander、scribe、owner
Incident Communication Channel	事故期間如何同步對內對外資訊	internal chat、status update、bridge
Escalation Policy	事故無回應或無進展時如何升級	on-call、paging、handover
Incident Timeline	事故事件如何形成一致時間軸	incident log、communication
Evidence Package	觀測與事故證據如何交接與回放	observability、verification、PIR
Time Range	證據如何保留明確時間窗	evidence、incident timeline
Query Link	證據如何保留可重跑查詢入口	evidence、handoff
Data Quality	證據如何標示完整度與限制	evidence、sampling、freshness
Confidence	證據如何標示判讀信心等級	evidence、gate decision
Known Gap	證據如何保存已知缺口	evidence、PIR、readiness
Incident Decision Log	事故決策如何保存證據與回退條件	IC handoff、PIR、status update
Steady State	實驗與事故恢復如何定義成功狀態	chaos、DR、recovery
Blast Radius	故障影響面如何估算與隔離	dependency、shared resource
Rollback Strategy	事故期間何時回滾與回切	deployment、release gate
Post-Incident Review	事故後如何形成改進閉環	retrospective、action items
RCA	根因分析如何從證據推導改進	timeline、control gap
RTO	服務回復時間目標如何定義	SLA/SLO、DR
RPO	可接受資料損失窗口如何定義	backup、replication
MTTR	平均修復時間如何反映處置能力	incident metrics、review
Point-in-Time Recovery	資料如何還原到過去任意時間點	base backup、WAL、RPO
Corruption Recovery	資料損毀事故如何辨識來源並處置	checksum、evidence、restore

資安與資料保護

卡片	核心問題	常見出現位置
Authorization	誰能對哪些資源執行哪些操作	RBAC、ABAC、tenant
Authentication	系統如何確認呼叫者身份	login、API key、mTLS
Credential	身分與系統存取用秘密如何保存與輪替	API key、password、private key
IAM	身分與權限如何集中治理	SSO、roles、policy
BOLA / IDOR	使用者如何被限制只能存取授權物件	API、resource ID
BOPLA	欄位層級如何授權讀寫	DTO、field policy
Mass Assignment	自動綁定欄位如何造成未授權修改	API、ORM
Excessive Data Exposure	API 回傳過多資料如何增加外洩風險	response、DTO
Unrestricted Resource Consumption	API 如何限制昂貴資源使用	upload、export、query
Function-Level Authorization	功能操作本身如何授權	refund、export、admin
Tenant Boundary	多租戶資料與資源如何隔離	SaaS、RBAC
Least Privilege	身份如何只取得必要權限	IAM、database user
Security Misconfiguration	設定錯誤如何暴露內部能力	CORS、debug、cloud
Attack Surface	系統哪些對外暴露面最先被探測	public API、admin route、webhook
Trust Boundary	哪些位置要重建信任假設	auth boundary、tenant、network
Abuse Case	合法功能如何被惡意轉用	export、invite、reset
WAF	入口層如何過濾常見攻擊與濫用	edge、bot、attack
Feature Flag	功能開關如何分離部署與啟用	rollout、experiment、rollback
Security Exception	風險例外如何以期限與關閉條件治理	risk acceptance、governance
Release Freeze	高風險期間如何暫停特定變更	incident、vulnerability window
Tripwire	風險決策何時自動回到重評估流程	threshold、escalation
Allowlist	例外放行如何維持可控範圍	freeze exception、policy control
Input Validation	入口資料如何檢查格式與語意	API、webhook
SSRF	伺服器端請求如何被濫用	URL fetch、webhook
PII	可識別個人的資料如何保護	masking、retention
Data Classification	資料分級如何決定保護規則	security、compliance
Data Masking	敏感資料如何降低暴露	export、log、support tool
Secret Management	token、key、password 如何保存與輪替	credential、deployment
TLS / mTLS	傳輸加密與雙向身份驗證如何保護資料流	service-to-service、API
Website Certificate Lifecycle	網站憑證從簽發到續期與撤銷如何治理	HTTPS、edge、ingress
ACME Automation	網站憑證如何自動簽發與續期	Let’s Encrypt、DNS-01、HTTP-01
Certificate Chain and Trust Root	憑證鏈與信任根如何影響握手	intermediate CA、trust store
Certificate Rotation and Renewal	憑證與私鑰如何不中斷更新	expiry、zero-downtime
Certificate Revocation	憑證失效時如何撤銷與替換	key compromise、incident
Artifact Provenance	交付物來源與完整性如何建立可驗證信任	CI、supply chain、release gate
Audit Log	高風險操作如何留下責任證據	admin、export、permission
Row-Level Security	資料庫如何用 policy 過濾可見的 row	RLS、多租戶、policy
At-Rest Encryption	落地資料如何在儲存層加密	tablespace、backup、金鑰
Key Management	加密金鑰如何產生、保存與輪替	KMS、keyring、rotation
Break-Glass Access	緊急高權限存取如何用工單與時限治理	emergency、ticket、audit

使用方式

知識卡片是章節引用單位。選型文章遇到術語時，應連到對應卡片；服務實體章節需要更深入時，再從卡片延伸到具體工具操作。