一、 核心概念:AI Agent 的內容管理職責
Context Engineering 的存在,主要為了解決語言模型(LLM)「輸入長度有限」以及「缺乏原生長期記憶」的挑戰。在此架構中,AI Agent 擔任語言模型的「內容經紀人」,負責精確篩選並控管餵給模型的資訊,確保輸入長度適中。
![語言模型沒有記憶,只能根據當下的輸入給予回覆。例如:不能只給工具3的輸出,需要從[人類:...]+[使用工具1]+...每一次互動內容加起來到+[工具3輸出]]給語言模型,他才知道整個事件得來龍去脈](https://resize-image.vocus.cc/resize?compression=6&norotation=true&url=https%3A%2F%2Fimages.vocus.cc%2Ff405bd2c-99fc-468b-abef-1e779dfe1cdb.png&width=740&sign=ZzLWXBLSRa6fylCbRDrx4y6WY6iFg9LcCP-zTt67Toc)
語言模型沒有記憶,只能根據當下的輸入給予回覆。例如:不能只給工具3的輸出,需要從[人類:...]+[使用工具1]+...每一次互動內容加起來到+[工具3輸出]]給語言模型,他才知道整個事件得來龍去脈
二、 Context Engineering 的四大運作機制
1. 區分上下文 (Context) 與提示詞 (Prompt)
在技術層面上,我們必須區分 Context 與 Prompt 的定義:
- Context:涵蓋了 Agent 經歷過的所有事情,包含存在外部硬碟裡的原始數據。
- Prompt:僅是 Context 的精選子集,是真正輸入給模型閱讀並處理的文字。

AI Agent的任務就是將人類的指令透過Context Engineering的方式轉換成適當長度的Prompt給語言模型
2. 資訊壓縮:極簡與深度的平衡 (Compression)
當紀錄過長時,Agent 會調用另一個模型撰寫摘要,或採用「觀察遮蔽 (Observation Masking)」技術——將冗長的工具輸出替換為「此處省略」的標籤。最優策略是結合遮蔽術與深度摘要,達成混合式的資訊壓縮,避免模型因為資訊過多而「噎死」。
![觀察遮蔽-不需要將某個輸出內容全部加載到Context中,而是把輸出內容先產出成一份文件,再用[指定讀一份文件]的語句取代把整個文件內容加載到Context的長度](https://resize-image.vocus.cc/resize?compression=6&norotation=true&url=https%3A%2F%2Fimages.vocus.cc%2F6dd42db2-b482-4c09-a44f-44a816fee7e8.png&width=740&sign=alJmYUasWXRV3Yie418ryoPOUubSlw8Dlnk6UbdMRNM)
觀察遮蔽-不需要將某個輸出內容全部加載到Context中,而是把輸出內容先產出成一份文件,再用[指定讀一份文件]的語句取代把整個文件內容加載到Context的長度

深度摘要-將原本已經一大串的Context請語言模型做重點摘要後,收斂成更短的語句再輸入給另一個語言模型
3. 源頭過濾與按需加載:裝備你的技能包 (Filtering & Loading)
這部分是 Context Engineering 最靈活的展現。我們可以將資訊獲取的過程類比為遊戲玩家的資源管理:
- Prompt (裝備中的技能包): 這是此時此刻餵進模型的關鍵資訊,如同玩家為了應付眼前的 Boss,剛從商店買來並「立刻裝備」的特殊技能。
- Non-prompt (儲存進度的記憶卡): 這是存放在硬碟中的原始數據,就像已經通關的「遊戲存檔」,隨時等待被呼叫。 AI Agent 會像老練玩家一樣,根據任務需求自主執行 Save(存檔) 與 Load(讀取) 指令,只從龐大數據中萃取相關內容,實現按需加載,避免一開始就擠爆記憶空間。

4. 子代理:外科手術式的自主修剪 (Subagent)
解決記憶爆炸的另一個策略是「分身術」。當主代理遇到繁瑣任務時,會分裂出 Subagent 去執行。這會形成迷人的「鋸齒狀」空間變化:子代理在獨立空間進行大規模運算(生長),任務完成後僅回傳最終結果(Return)並抹除中間過程(修剪)。

讓Subagent完成指定部分任務後回傳給主要Agent後就砍掉Subagent的行為,就像上面的Context壓縮摘要的方式很像

藍色線條的Context原本越來越長,在每個Subagent完成任務回傳給主Agent後砍掉Subagent,就會又縮短原本Context所需長度
三、 未來趨勢:讓 AI 擔任自己的圖書館管理員
最前沿的技術正朝向 Agentic Context Engineering 進化。當 AI 懂得像人類一樣在繁忙中萃取精華、在漫長任務中捨棄冗餘,它便具備了從單純的「文字接龍」進化到「全能助理」的跨越式能力。

四、總結[從「對話」到「執行」的權變]
Context Engineering 不僅僅是一項節省運算成本的技術,它更是 AI 從單純的「文字接龍機器」進化為「具備長跑能力之行動代理」的關鍵橋樑。透過精密的記憶調度、智慧化的資訊過濾,以及如同遊戲存檔般的按需加載機制,AI Agent 克服了硬體上的視窗限制,展現出更貼近人類直覺的運算邏輯。
當我們理解了這套「內容經紀人」的運作模式後,便能更有效地優化我們的指令與任務架構。未來,AI 的強大將不再只取決於大腦(LLM)的多寡,更取決於它如何智慧地「遺忘」瑣事、精準地「記住」核心。掌握了 Context 管理的邏輯,你也就掌握了通往未來自動化生產力的金鑰。
五、資料來源
AI Agent :核心技術 Context Engineering 基本概念解說


























