長 session 的邊際成本是線性累積的

session 養得越肥,之後每一次 tool call 都越貴——不是一次性的,是往後每一輪都要再付一遍。

因為每輪都要重讀整個 context,當一條 session 的 context 長到 200k、300k,那個數字就變成後續每一次請求的固定底價。多讀一個大檔案不只是當下那一次的成本,而是把往後每一輪的單價都墊高了。

單輪成本 = 當前 context × $0.5/M     (Opus 5 cache read)

context 100k → 每輪約 $0.05
context 300k → 每輪約 $0.15

一條 context 300k、再跑 100 輪的 session,光重讀就是 $15,agent 還沒做任何實際工作。

實務上的意思是:該開新 session 就開。把一條 session 拖到很長再繼續做 tool call,比起重開一條、只帶必要的上下文進去,後者通常便宜得多。這也是 /compact 真正的價值——不是為了避開 context limit,是為了把後續每一輪的底價壓回去。

相關:Agent 的成本主要在每輪重讀 context,不在輸出