Model-Family on Tarragonhttps://tarrragon.github.io/blog/tags/model-family/Recent content in Model-Family on TarragonHugo -- gohugo.iozh-TWTarragon (CC BY 4.0)Tue, 12 May 2026 00:00:00 +0000Reasoning Modelhttps://tarrragon.github.io/blog/llm/knowledge-cards/reasoning-model/Tue, 12 May 2026 00:00:00 +0000https://tarrragon.github.io/blog/llm/knowledge-cards/reasoning-model/<p>Reasoning model 的核心概念是「<strong>透過後訓練（多半是 RL）讓模型自然在回答前產出長 <a href="https://tarrragon.github.io/blog/llm/knowledge-cards/chain-of-thought/" data-link-title="Chain-of-Thought（CoT）" data-link-desc="讓 LLM 先輸出推理步驟再給最終答案的 prompting / 訓練方式、reasoning model 的基礎機制">chain-of-thought</a> reasoning trace 的 LLM 變體</strong>」。代表是 OpenAI o1 / o3、DeepSeek-R1、Qwen-QwQ、Claude 3.7 Sonnet thinking 等。Reasoning model 是 2024-2026 LLM 的最大 paradigm shift、把 <a href="https://tarrragon.github.io/blog/llm/knowledge-cards/test-time-compute/" data-link-title="Test-Time Compute" data-link-desc="推論時動態增加計算量換取答案品質的 paradigm、reasoning model 跟 best-of-N 的共同基底">test-time compute</a> 變成可訓練、可 scale 的維度。</p> <h2 id="概念位置">概念位置</h2> <p>Reasoning model 跟一般 instruction-tuned model 的差異：</p> <table> <thead> <tr> <th>維度</th> <th>Instruction-tuned model（如 Gemma 4 instruct）</th> <th>Reasoning model（如 DeepSeek-R1）</th> </tr> </thead> <tbody> <tr> <td>訓練後階段</td> <td>SFT + RLHF / DPO</td> <td>SFT + RLHF + <strong>reasoning RL</strong></td> </tr> <tr> <td>推論行為</td> <td>直接答（或短 CoT）</td> <td>先生 reasoning trace（數百到數千 token）再答</td> </tr> <tr> <td>適合任務</td> <td>對話、寫作、簡單 coding、查詢</td> <td>math、debug、algorithm、複雜 reasoning</td> </tr> <tr> <td>Token 消耗</td> <td>直接生答案 token</td> <td>reasoning trace 通常 5-50× 於最終答案</td> </tr> <tr> <td>推論成本</td> <td>1×</td> <td>5-20×（依任務難度）</td> </tr> <tr> <td>Context 需求</td> <td>一般</td> <td>較大（要容納 reasoning trace）</td> </tr> </tbody> </table> <p>主流 reasoning model 比較（2026/5）：</p> <table> <thead> <tr> <th>模型</th> <th>開源 / 商業</th> <th>推理 trace 格式</th> <th>本地跑可行性</th> </tr> </thead> <tbody> <tr> <td>OpenAI o1 / o3</td> <td>商業 API</td> <td>對使用者隱藏</td> <td>不可</td> </tr> <tr> <td>DeepSeek-R1（full）</td> <td>開源</td> <td><code>&lt;think&gt;...&lt;/think&gt;</code> 標記</td> <td>671B 太大、本地不實際</td> </tr> <tr> <td>DeepSeek-R1 distill</td> <td>開源</td> <td>同上</td> <td>7B / 14B / 32B distill 可在 24-48GB Mac 跑</td> </tr> <tr> <td>Qwen-QwQ</td> <td>開源</td> <td>純文字 reasoning（無特殊 token）</td> <td>32B 可在 64GB+ Mac 跑</td> </tr> <tr> <td>Claude 3.7 Sonnet thinking</td> <td>商業 API</td> <td>extended thinking field</td> <td>不可</td> </tr> <tr> <td>Gemini 2.5 Flash thinking</td> <td>商業 API</td> <td>thinking field</td> <td>不可</td> </tr> </tbody> </table> <h2 id="設計責任">設計責任</h2> <p>讀 model card / paper 看到「reasoning」「thinking」「test-time compute」「R1-style」就是這個 family。寫 code 場景的判讀：</p> <ol> <li><strong>本地用 distill 版本是合理起點</strong>：DeepSeek-R1-Distill-Qwen-32B、QwQ-32B 等是「正常 32B 模型 + reasoning 後訓練」的產物、跑得起來</li> <li><strong>適合的任務</strong>：debug 複雜 bug、算 algorithm complexity、設計 multi-step refactor、解 leetcode hard</li> <li><strong>不適合的任務</strong>：autocomplete（reasoning trace 拉長 TTFT、體感變慢）、簡單 docstring 補完、純文字翻譯</li> <li><strong>混用策略</strong>：日常用 <a href="https://tarrragon.github.io/blog/llm/knowledge-cards/instruction-tuned/" data-link-title="Instruction-Tuned Model" data-link-desc="經過指令微調的模型：會跟著 prompt 走、回答使用者問題">instruction-tuned model</a>（如 Gemma 4 31B、Qwen3-Coder）+ 複雜任務切到本地 reasoning model（如 QwQ-32B）+ 真正困難任務切雲端 o1 / R1 full</li> <li><strong>記憶體預算</strong>：reasoning model 本身大小跟對應 instruct model 相當、但要預留更大 <a href="https://tarrragon.github.io/blog/llm/knowledge-cards/kv-cache/" data-link-title="KV Cache" data-link-desc="已處理 token 的 attention 中間結果暫存：避免重算、加速後續生成">KV cache</a> 給長 reasoning trace（context 通常開 32K+）</li> </ol>Reasoning model 的核心概念是「透過後訓練（多半是 RL）讓模型自然在回答前產出長 chain-of-thought reasoning trace 的 LLM 變體」。代表是 OpenAI o1 / o3、DeepSeek-R1、Qwen-QwQ、Claude 3.7 Sonnet thinking 等。Reasoning model 是 2024-2026 LLM 的最大 paradigm shift、把 test-time compute 變成可訓練、可 scale 的維度。

概念位置

Reasoning model 跟一般 instruction-tuned model 的差異：

維度 Instruction-tuned model（如 Gemma 4 instruct） Reasoning model（如 DeepSeek-R1）
訓練後階段 SFT + RLHF / DPO SFT + RLHF + reasoning RL
推論行為 直接答（或短 CoT） 先生 reasoning trace（數百到數千 token）再答
適合任務 對話、寫作、簡單 coding、查詢 math、debug、algorithm、複雜 reasoning
Token 消耗 直接生答案 token reasoning trace 通常 5-50× 於最終答案
推論成本 1× 5-20×（依任務難度）
Context 需求 一般 較大（要容納 reasoning trace）

主流 reasoning model 比較（2026/5）：

模型 開源 / 商業 推理 trace 格式 本地跑可行性
OpenAI o1 / o3 商業 API 對使用者隱藏 不可
DeepSeek-R1（full） 開源 <think>...</think> 標記 671B 太大、本地不實際
DeepSeek-R1 distill 開源 同上 7B / 14B / 32B distill 可在 24-48GB Mac 跑
Qwen-QwQ 開源 純文字 reasoning（無特殊 token） 32B 可在 64GB+ Mac 跑
Claude 3.7 Sonnet thinking 商業 API extended thinking field 不可
Gemini 2.5 Flash thinking 商業 API thinking field 不可

設計責任

讀 model card / paper 看到「reasoning」「thinking」「test-time compute」「R1-style」就是這個 family。寫 code 場景的判讀：

  1. 本地用 distill 版本是合理起點：DeepSeek-R1-Distill-Qwen-32B、QwQ-32B 等是「正常 32B 模型 + reasoning 後訓練」的產物、跑得起來
  2. 適合的任務：debug 複雜 bug、算 algorithm complexity、設計 multi-step refactor、解 leetcode hard
  3. 不適合的任務：autocomplete（reasoning trace 拉長 TTFT、體感變慢）、簡單 docstring 補完、純文字翻譯
  4. 混用策略：日常用 instruction-tuned model（如 Gemma 4 31B、Qwen3-Coder）+ 複雜任務切到本地 reasoning model（如 QwQ-32B）+ 真正困難任務切雲端 o1 / R1 full
  5. 記憶體預算：reasoning model 本身大小跟對應 instruct model 相當、但要預留更大 KV cache 給長 reasoning trace（context 通常開 32K+）
]]>