"Tool-Use"
- Tool Result Misread
Agent 誤讀工具輸出,把錯誤、空結果或部分成功當成成功,導致後續步驟建立在錯誤狀態上
- Tool-Use Permission Model
把 LLM tool use 的讀取、寫入、外部副作用與審查節點分級管理的權限模型
- Agent Loop
LLM agent 自我循環的工作流:LLM 規劃下一步、執行 tool、看結果、再規劃下一步、直到任務完成或停止條件觸發
- 6.2 tool use 與 MCP server 的權限模型
個人 dev 場景下 tool use / MCP server 的副作用權限:檔案系統 / shell / 網路存取邊界、第三方 MCP 信任、副作用的可逆性
- 4.3 Tool use 原理:LLM 跟外部世界互動
Structured output 是 LLM 跨入工程系統的橋、function calling 取捨、為什麼本地小模型 tool use 表現崩潰
- 6.3 IDE 場景的 prompt injection
個人 dev 場景下 IDE 寫 code 工作流的 prompt injection:codebase 內容、外部文件、剪貼簿作為攻擊面、跟雲端 LLM 場景的差異
- LLM Agent Prompt Injection 後果治理
production LLM agent 場景的 prompt injection 後果:tool spec 設計、agent loop 限制、review checkpoint、跟 incident workflow 的接合