長 session 的邊際成本是線性累積的
session 養得越肥,之後每一次 tool call 都越貴——不是一次性的,是往後每一輪都要再付一遍。
因為每輪都要重讀整個 context,當一條 session 的 context 長到 200k、300k,那個數字就變成後續每一次請求的固定底價。多讀一個大檔案不只是當下那一次的成本,而是把往後每一輪的單價都墊高了。
單輪成本 = 當前 context × $0.5/M (Opus 5 cache read)
context 100k → 每輪約 $0.05
context 300k → 每輪約 $0.15
一條 context 300k、再跑 100 輪的 session,光重讀就是 $15,agent 還沒做任何實際工作。
實務上的意思是:該開新 session 就開。把一條 session 拖到很長再繼續做 tool call,比起重開一條、只帶必要的上下文進去,後者通常便宜得多。這也是 /compact 真正的價值——不是為了避開 context limit,是為了把後續每一輪的底價壓回去。