ContextWindow
含有「ContextWindow」共 3 篇內容
全部內容
發佈日期由新至舊
Anthropics 團隊提出在設計 AI 代理人（AI Agent）發現好工具（tool use）需定義明確且有意圖充分、context 能靈活運用，提出各項優化token方法確保 AI 代理人（AI Agent）更直覺解決真實任務。Claude 團隊探討如何為 AI Agent 設計高效工具。
隨著 Agent 任務複雜度的提升，單純擴大上下文窗口已無法滿足需求，反而可能因計算成本和「注意力衰減」問題導致效率下降。傳統 RAG 的局限性，結合短期與長期記憶、發展情境感知檢索、上下文壓縮等策略的解決方案，對於構建更智能、更能解決複雜問題的 LLM Agent 至關重要。
本文深入淺出地介紹AI如何利用上下文視窗（Context Window）技術來理解和回應使用者提問，並闡述背後的系統架構和機制，包含系統如何過濾雜訊，避免記憶體超載，以及寫入和讀取記憶的過程，並以類似RAG架構作比喻。
