Claude Prompt Caching 是一種用於提升 API 效率的技術,通過快取重複的請求前綴來降低成本。開發者可以利用 cache_control 來設定快取策略,從而減少對系統資源的需求,特別是在處理長期任務或多輪對話時。
本文目錄:核心解釋 | 用途與選擇 | 實作示例 | 成本、權限與限制 | 常見問題
核心解釋
Claude Prompt Caching 是一種提升 API 效率的技術,旨在減少重複請求的成本。這種技術主要通過快取重複的請求前綴來達成,特別適合於長時間運行的系統或多輪對話的場景。開發者可以使用 cache_control 來設定快取策略,從而有效管理系統資源。
使用 Claude Prompt Caching,開發者能夠在發送請求時,選擇自動快取或手動設定快取斷點。這樣的靈活性使得開發者可以根據具體需求來調整快取策略,從而達到最佳的效能和成本平衡。
用途與選擇
Claude Prompt Caching 特別適合以下幾種情境:
| 用途 | 描述 | 快取策略 | 適用場景 | 注意事項 |
|---|---|---|---|---|
| 自動快取 | 頂層 cache_control 自動快取請求前綴 | 自動設定 | 長期任務 | 預設壽命約 5 分鐘 |
| 明確斷點 | 在個別 content block 放 cache_control | 手動設定 | 重複指令 | 需手動調整 |
| 多輪對話 | 適合多次交互的請求 | 自動或手動 | 聊天機器人 | 需考慮快取壽命 |
| 大量示例 | 需要多個示例的請求 | 自動快取 | 教學或演示 | 快取命中讀取約 0.1× |
| 長背景 | 需要長背景信息的請求 | 手動設定 | 複雜查詢 | 需考慮快取壽命 |
實作示例(教學示例)
以下是如何設定 cache_control 以實現 Claude Prompt Caching 的步驟:
1. 設定 cache_control 參數。
2. 定義快取壽命(例如 5 分鐘或 1 小時)。
3. 確定快取前綴的順序(tools → system → messages)。
4. 發送請求並檢查快取命中情況。
5. 根據需要調整快取策略。
- 步驟 1:設定 cache_control 參數。完成後你會得到:初步的快取設定。驗收:確認參數正確。
- 步驟 2:定義快取壽命(例如 5 分鐘或 1 小時)。完成後你會得到:明確的快取時間。驗收:檢查壽命設定。
- 步驟 3:確定快取前綴的順序(tools → system → messages)。完成後你會得到:正確的快取順序。驗收:確認順序無誤。
- 步驟 4:發送請求並檢查快取命中情況。完成後你會得到:快取命中的結果。驗收:檢查快取效果。
- 步驟 5:根據需要調整快取策略。完成後你會得到:最佳的快取效果。驗收:確保策略符合需求。
成本、權限與限制
使用 Claude Prompt Caching 的成本主要取決於快取的壽命和命中率。預設的 ephemeral 壽命約為 5 分鐘,而付費選項則可延長至 1 小時。根據官方資料,快取命中讀取的成本約為 0.1×,而基本 input 價格則為 5 分鐘寫入約 1.25×,1 小時寫入約 2×。這樣的設置能夠有效降低重複請求的成本。
然而,開發者需注意快取的壽命從寫入或讀取該次請求開始計算,長時間串流會佔用壽命窗口。此外,個別模型的最低可快取 token 門檻是否調整,以及企業零資料保留(ZDR)對快取行為的影響,仍需進一步確認。
常見問題
Claude Prompt Caching 的主要優勢是什麼?
主要優勢在於降低重複請求的成本,提升 API 效率。
如何選擇快取的壽命?
快取壽命可根據請求的頻率和需求來設定,預設為 5 分鐘,付費可選擇 1 小時。
快取命中率如何影響成本?
快取命中率越高,成本越低,因為快取命中讀取的價格遠低於基本 input 價格。
是否可以手動設定快取斷點?
是的,可以在個別 content block 中放置 cache_control 來手動設定快取斷點。
快取的壽命如何計算?
快取壽命從寫入或讀取該次請求開始計算,長時間串流會佔用壽命窗口。
下一步,你可以參考 Prompt caching 官方文件 以獲取更多資訊,並查看 context compaction 教學 以了解相關技術,還可以考慮參加 一對一項目指導 以獲得專業指導。
根據 Anthropic Prompt caching 與 Pricing 文件(查閱 2026 年 10 月 19 日),快取前綴會依 tools、system、messages 的順序建立;預設 ephemeral 壽命約五分鐘,另有付費一小時選項。相對基本 input 價,五分鐘寫入約 1.25 倍、一小時寫入約 2 倍、命中讀取約 0.1 倍;在 Claude Fable 5.1 與 Mythos 5.1,命中讀取可低至約 0.025 倍。壽命從寫入或讀取該次請求開始計算,長時間串流會壓縮後續可重用的窗口,因此多輪任務應把穩定前綴放前並盡早命中。
文章參考資料
以上公開資料於 2026 年 10 月 19 日查閱。
學習 AI,保護你的未來。