AI 程式助理已經從一個新奇的概念,逐漸成為許多開發者工作流程中不可或缺的一環。從 GitHub Copilot 到 Cursor 這樣專為 AI 打造的程式編輯器,它們極大地提升了開發效率。然而,所有強大的 AI Agent 都面臨一個共同的限制:有限的「Context Window」。
傳統的「Static Context」,也就是開發者想方設法將所有可能的資訊都預先塞進這個有限的「Context Window」中。這種方法不僅成本高昂(消耗大量 Token),而且效率低下,甚至可能因為資訊過載而降低 AI 的判斷品質。
為了解決這個問題,Cursor 分享了稱為「動態內容探索(Dynamic Context Discovery)」的方法。
從「靜態」到「動態」
在深入了解 Cursor 的具體做法前,我們先理解「靜態」與「動態」這兩種模式的差異。
- 靜態內容(Static Context):這是一種「推送(Push)」模式。我們假設 AI Agent 需要什麼,然後把這些資訊一股腦地塞進提示詞(Prompt)中。這就像是打包一個所有你認為對方會需要的食物都放進去的便當盒,不論對方最後是否真的會全部吃完。這種方式雖然直接,但非常浪費空間,且缺乏彈性。
- 動態內容探索(Dynamic Context Discovery):這是一種「拉取(Pull)」模式。我們只給 AI Agent 最基本的地圖和一個背包,並告訴它圖書館在哪裡。當它在執行任務的過程中,發現需要某本書或某份資料時,它會自己跑去圖書館,精準地找出需要的內容放進背包裡。這種模式不僅節省初始的負擔(Token 消耗),也讓 AI Agent 的行動更加自主和高效。
Cursor 提出的解方核心在於,他們找到了一個簡單卻強大的概念來實現這種「拉取」模式:將一切都視為「檔案(Files)」。
萬物皆檔案:Cursor 實現動態探索的五大支柱
Cursor 沒有發明複雜的新協定或資料結構,而是回歸本質,讓 AI Agent 使用如 grep、tail、read 等基本工具,就能自主獲取所需的上下文。
1. 將冗長的工具回應變成檔案:告別無效的資訊截斷
過去,當 AI Agent 呼叫一個工具並得到一個非常長的回應時,通常只有兩種選擇:要麼完整接收,瞬間佔滿寶貴的「Context Window」;要麼粗暴地截斷回應,但這可能導致關鍵資訊的遺失。
Cursor 的做法是:當偵測到一個冗長的工具回應時,系統會自動將其寫入一個檔案。然後,只把這個檔案的路徑告訴 AI Agent。如此一來,AI Agent 就掌握了主動權。它可以先用 tail 指令快速查看檔案的結尾,判斷這是否是它需要的資訊。如果需要更多細節,它可以再完整讀取檔案內容,避免因為內容超限而觸發不必要的摘要步驟,也確保了資訊的完整性。
2. 讓對話歷史成為可參考的檔案:摘要壓縮下的記憶保險
AI Agent 的「失憶」問題是長期任務中的一大挑戰。當對話內容累積過多,超出「Context Window」限制時,系統會觸發一個「摘要」步驟,將過去的工作內容壓縮成一段簡短的總結。然而,這個過程是「有損壓縮」,許多關鍵的細節、先前的思考路徑或被否決的方案,都可能在摘要中遺失。
為了解決這個問題,Cursor 將完整的對話歷史也當作一個檔案來處理。當進行摘要時,AI Agent 不僅會得到新的、簡潔的摘要內容,同時也會被告知完整的歷史紀錄檔案在哪裡。如果 AI Agent 在後續工作中發現摘要的資訊不足,或對某個細節感到模糊,它可以主動地去搜尋歷史紀錄檔案,找回被遺忘的線索,大幅提升長期任務的穩定性與準確性。
3. 支援 Agent Skills 開源標準:隨需載入的專業技能庫
「Agent Skills」是一個近期流行的開源標準,旨在讓 AI Agent 能夠使用特定的、領域相關的能力。每個「技能」本身就是一個包含了指令、描述,甚至可執行腳本的檔案夾。
Cursor 採用動態探索的方式,只在初始的靜態內容中提供技能的名稱和簡短描述。當 AI Agent 根據任務需求,判斷可能需要某項特定技能時,它會使用語意搜尋(semantic search)或 grep 等工具,去動態地讀取並載入該技能的完整檔案,讓它能更輕便、更有效率地運用這些擴充能力。
4. 效率化載入 MCP 工具:實測節省 46.9% 的秘密
MCP(Model Context Protocol)是一個讓 AI Agent 能夠存取受保護資源(如公司內部文件、生產環境日誌)的開放協定。一個企業可能會部署包含數十甚至數百個工具的 MCP 伺服器,每個工具都有詳細的描述。如果將所有工具的描述都作為靜態內容載入,將會造成巨大的 Token 浪費,特別是當大部分工具在一次任務中根本不會被用到時。
Cursor 將所有 MCP 工具的描述同步到一個本地資料夾,每個工具一個檔案。在給予 AI Agent 的初始提示中,只包含工具的名稱列表。當 AI Agent 認為需要使用某個工具時,它會被引導去查找並讀取對應的說明檔案。
這種做法帶來了驚人的效益。在一項測試中,Cursor 發現在需要呼叫 MCP 工具的任務中,該策略平均減少了 46.9% 的 Token 總消耗量。這不僅直接降低了成本,也為更複雜的推理保留了寶貴的內容空間。
此外,這種基於檔案的方法還有一個額外的好處:可以向 AI Agent 傳達工具的狀態。例如,如果某個 MCP 伺服器需要重新驗證,系統可以直接更新對應的檔案內容,讓 AI Agent 能夠主動告知使用者需要進行的操作,而不是默默地「忘記」這些工具的存在。
5. 將終端機輸出視為檔案:無縫除錯與內容引用
在日常開發中,我們經常需要在終端機中執行指令,並根據其輸出來進行下一步操作或除錯,如果想讓 AI Agent 分析終端機的輸出,開發者需要手動複製貼上。
Cursor 則將所有整合式終端機的輸出都自動同步到本地的檔案系統中。開發者可以直接提問:「我剛剛的指令為什麼會失敗?」而 AI Agent 能夠自動理解你所指的「剛剛的指令」,並去讀取對應的終端機輸出日誌檔案。對於長時間運行的程序(例如伺服器日誌),AI Agent 還可以利用 grep 等指令,只篩選出與問題相關的關鍵行,而不是處理整個冗長的日誌,實現了更高效、更直觀的互動除錯體驗。
TN科技筆記的觀點
在 AI 領域,Token 就是金錢單位,Cursor 的方法僅在 MCP 工具載入這一項上就節省了 46.9% 的 Token,這是一個非常驚人的數字。這意味著使用者可以用更低的成本運行 AI,或者在同樣的成本下,讓 AI 處理更複雜的問題,因為寶貴的「Context Window」被用在了更高品質的「思考」上,而不是浪費在冗餘的資料上。在記憶體等相關儲存硬體、運算硬體成本隨著AI更多應用持續高漲的時候,如何透過各式各樣的技術來更加妥善地運用硬體資源,絕對是需要持續集思廣益的重要環節。Cursor 提出的「動態內容探索」,重點在於「探索」本身的效率,以及引導 AI 進行高效探索的機制是否能夠順利找到對應的資料,成效也與背後驅動的模型智慧程度緊密綁定。
支持TN科技筆記,與科技共同前行
我是TN科技筆記,如果喜歡這篇文章,歡迎留言、點選愛心、轉發給我支持鼓勵~~~也歡迎每個月請我喝杯咖啡,鼓勵我撰寫更多科技文章,一起跟著科技浪潮前進!!>>>>> 請我喝一杯咖啡
在此也感謝每個月持續請我喝杯咖啡的讀者以及新加入的讀者們,讓我更加有動力為各位帶來科技新知!
以下是我的 threads 也歡迎追蹤、回覆、轉發喔!
>>>>> TN科技筆記(TechNotes)



























