睡前看到Atlassian公司寄來的E-mail通知:

原來每日免費 Token 限額將由2000 萬調整為500 萬,該來的還是來了!
這項政策預計是這個月底會生效。或許2000萬的免費額度對於該公司成本負擔過重,也或許已經藉由各位用戶的積極測試得到十足的測試成果,差不多該收網了。
總之呢,我們原先就預期這項好康不會持續多久,畢竟AI運算的成本不俗。日後或許還能開多個帳號擋一陣子,但又能持續多久呢,還是讓我們把握當下,善用工具做一些有趣的事情吧!
怎麼省Token?
稍微講一下有沒有簡單節省Token的方法呢?
先來看看這所謂Token的額度是怎麼計算的,其實包含「你問他」還有「他回你」的訊息總和,即是:
輸入Tokens + 輸出Tokens
那麼我們可以試著控制輸入Token的大小,一般使用上,我們從運行Agent開始對話到達到任務,我們也不會特別去關掉小黑窗(Terminal),這期間累積的對話會被記錄在Context Window中,作為AI本次對話的工作記憶,事實上因為這個機制存在,才能讓AI在每次回應時能夠了解我們工作已經進行到哪階段了、剛剛我們一起試錯了些什麼問題。

也因為每次AI回答問題時都需要讀取Context Window的內容,因此會佔用不少的Token量。如果我們的應用上並不是需要讓AI專注在一個遠大的目標上,也不需要每次讓AI讀取.md來回憶上次工作到哪裡了,那麼我們可以利用結束這個Session,開新對話框進行新對話,來達到結果Token的效果。
具體可以使用的方法就是:
- 直接關掉小黑窗(Terminal),重啟新視窗進行對話。
- 輸入指令
/clear
,將Context歸零。
不過對於構築大專案時,卻不太可能讓AI在不了解前後關係的狀況下進行協作,那麼我們可以使用Context壓縮的方法來節省一點Token:
- 輸入指令
/prune
具體的壓縮方式可能是關鍵字提取的技術,有興趣的話可以去研究一下最近很紅的:Claude Code 逆向工程研究仓库,裡面有個智能上下文管理的項目。
祝福大家玩得愉快!