Anthropic上個(gè)月將Claude Code提示緩存的TTL（存活時(shí)間）從一小時(shí)縮短至五分鐘，適用于大多數(shù)請(qǐng)求。盡管該公司表示此舉不會(huì)增加用戶成本，但仍有用戶反映配額消耗明顯加快。

用戶Sean Swanson提交了一份錯(cuò)誤報(bào)告，指出Anthropic曾于2月1日前后為Claude Code上下文引入一小時(shí)緩存機(jī)制，隨后又于3月7日前后將其改回五分鐘緩存。Swanson表示："五分鐘的TTL對(duì)以長(zhǎng)會(huì)話、高上下文為典型使用場(chǎng)景的Claude Code用戶而言，懲罰力度明顯過重。"

在使用AI編程助手或智能體時(shí)，上下文是指隨用戶提示一并發(fā)送的附加數(shù)據(jù)，例如已有代碼或背景說明。上下文能夠提升AI的響應(yīng)準(zhǔn)確性，但同時(shí)也需要更多的處理資源。

Claude的提示緩存機(jī)制可避免對(duì)已處理過的提示（包括上下文和背景信息）進(jìn)行重復(fù)處理。緩存TTL分為五分鐘和一小時(shí)兩種。寫入五分鐘緩存的Token消耗比基準(zhǔn)價(jià)格高出25%，寫入一小時(shí)緩存則高出100%，但從緩存中讀取數(shù)據(jù)的成本約為基準(zhǔn)價(jià)格的10%。

Bun JavaScript運(yùn)行時(shí)的創(chuàng)始人、現(xiàn)任職于Anthropic的Jarred Sumner認(rèn)可Swanson的分析是"很好的探查工作"，但表示將緩存改回五分鐘實(shí)際上降低了Claude Code的使用成本，原因是"Claude Code中有相當(dāng)一部分請(qǐng)求屬于一次性調(diào)用，緩存的上下文只被使用一次，不會(huì)再被訪問"。Sumner還表示，Claude Code客戶端會(huì)自動(dòng)確定緩存TTL，目前也無(wú)計(jì)劃提供全局設(shè)置選項(xiàng)。

對(duì)此，Swanson修訂了自己的分析，承認(rèn)使用子智能體的會(huì)話確實(shí)能從五分鐘緩存較低的寫入成本中獲益，因?yàn)檫@些子智能體交互頻繁，"緩存幾乎從不過期"。但他同時(shí)指出，自己已連續(xù)訂閱每月200美元的套餐超過六個(gè)月，直到3月份才首次遭遇配額限制。他表示，"額外的消耗速率"正在讓"這項(xiàng)曾經(jīng)優(yōu)秀的服務(wù)變得難以使用"。

另一個(gè)影響因素是，付費(fèi)套餐中Claude Opus 4.6或Sonnet 4.6模型提供的100萬(wàn)Token超長(zhǎng)上下文窗口會(huì)顯著推高成本，尤其是在緩存未命中時(shí)。Claude Code的創(chuàng)始人Boris Cherny表示："在使用100萬(wàn)Token上下文窗口時(shí)，提示緩存未命中的代價(jià)非常高……如果你離開電腦超過一小時(shí)后再繼續(xù)一個(gè)已停滯的會(huì)話，往往會(huì)觸發(fā)完全的緩存未命中。"他還透露，Anthropic正在研究將默認(rèn)上下文窗口調(diào)整為40萬(wàn)Token，并為有需要的用戶保留100萬(wàn)Token的選項(xiàng)。目前已有相關(guān)配置項(xiàng)可供使用。

Cherny指出，上下文規(guī)模擴(kuò)大已成為普遍趨勢(shì)，原因在于用戶"正在引入大量技能，或同時(shí)運(yùn)行多個(gè)智能體及后臺(tái)自動(dòng)化任務(wù)"。

部分開發(fā)者認(rèn)為，緩存重建和緩存未命中是導(dǎo)致Claude Code配額耗盡的主要原因。目前問題已相當(dāng)嚴(yán)重，Pro用戶（每月20美元）在五小時(shí)內(nèi)可能僅能發(fā)送兩條提示。此外，緩存代碼中已發(fā)現(xiàn)多處漏洞，有用戶直言："在這些問題修復(fù)之前，關(guān)于五分鐘與一小時(shí)緩存的討論很可能完全沒有意義，因?yàn)橄嚓P(guān)數(shù)據(jù)本身就存在嚴(yán)重偏差。"

對(duì)緩存優(yōu)化的持續(xù)關(guān)注，也可能從側(cè)面印證了一個(gè)現(xiàn)實(shí)：Anthropic的配額所能購(gòu)買到的實(shí)際處理時(shí)長(zhǎng)，已悄然縮水。

Swanson并非唯一反映Claude性能下降的用戶。例如，一位企業(yè)團(tuán)隊(duì)套餐用戶表示："三月份我可以整天使用Opus，效果非常好。但從三月底到四月，我遇到了不到兩小時(shí)就耗盡會(huì)話用量的情況，模型陷入反復(fù)思考的循環(huán)，多次'意識(shí)到'同樣的事情，輸出了大量'但等等，我其實(shí)需要做X'之類的段落，內(nèi)容只有細(xì)微差別。"AMD的一位AI總監(jiān)也表達(dá)了類似看法。

緩存優(yōu)化固然值得關(guān)注，但它似乎不足以解釋用戶所反映的全部問題。

Q&A

Q1：Claude Code的提示緩存機(jī)制是如何工作的？

A：Claude的提示緩存機(jī)制可以避免對(duì)已處理過的提示（包括上下文和背景信息）進(jìn)行重復(fù)處理，從而節(jié)省Token消耗。緩存TTL分為五分鐘和一小時(shí)兩種。寫入五分鐘緩存的成本比基準(zhǔn)價(jià)格高25%，寫入一小時(shí)緩存則高100%，但從緩存中讀取的成本僅為基準(zhǔn)價(jià)格的10%。緩存命中時(shí)成本較低，未命中時(shí)則需重新處理，成本大幅上升。

Q2：為什么用戶最近感覺Claude Code配額消耗變快了？

A：主要有幾個(gè)原因：一是Anthropic將緩存TTL從一小時(shí)改回五分鐘，導(dǎo)致長(zhǎng)會(huì)話更容易出現(xiàn)緩存未命中；二是100萬(wàn)Token超長(zhǎng)上下文窗口在緩存未命中時(shí)成本極高；三是緩存代碼本身存在已知漏洞，可能導(dǎo)致數(shù)據(jù)統(tǒng)計(jì)不準(zhǔn)確。此外，也有觀點(diǎn)認(rèn)為Anthropic的配額實(shí)際上對(duì)應(yīng)的處理時(shí)長(zhǎng)本身已縮減。

Q3：Anthropic打算如何解決Claude Code上下文窗口過大導(dǎo)致成本過高的問題？

A：Claude Code創(chuàng)始人Boris Cherny透露，Anthropic正在研究將默認(rèn)上下文窗口從100萬(wàn)Token縮減至40萬(wàn)Token，同時(shí)為有需要的用戶保留手動(dòng)選擇100萬(wàn)Token的選項(xiàng)。目前已有相關(guān)配置項(xiàng)可供使用，用戶可以提前調(diào)整以控制成本。