avatar-avatar
Boo.Ideas
發佈於Learner
更新 發佈閱讀 3 分鐘

花了一個下午多一點的時間,把 DeeplearningAI 的 Agentic AI 課程看完,對於AI代理的架構有了更完整的認識。一個水管工人是處理了無數次的管線才出師的,動手做解決問題是最快的學習方式。


- 知道如何拆解任務,將其定義在各個關鍵節點上,並將可由AI代理的部分全部代理出去


- 在節點間的串接就是 水管工,而熟練的串接是對你是否具備建立代理系統能力的重要評估

串接需要工具,代理系統依自主性高低,可分 :

高: 自主化的代理 LLM 能在任務中自主建立工具,

中: LLM 能自主決定要使用哪個預先定義好的工具

低: 所有工具、步驟都預先定義好,AI 自主決定能產生什麼步驟,由人類去操作


- devide and conquer,將一串流程拆解成各個獨立節點,再思考如何各自擊破,要用LLM or Tools,如果不行,再思考一次是否這節點還可以再細分成更小的步驟,最後再思考是否只能用 human 來解


- - 為什麼記帳APP比較容易實踐,因為他的任務步驟方便建立,只要有消費的人通常都知道一個記帳APP怎樣可以滿足你的需求,但是

--- 額外的需求呢? 需要理解阻力、suffer在哪 (又是一種taste?)

--- 更複雜的任務呢? 需要業務邏輯



-- 持有系統觀點讓效率更好

--- 在可以predefined的部分就先定義好,減少在不必要的階段讓 LLM 擁有自主性,例如: 客戶名稱、訂單編號、信箱、背景資訊

--- 知道整套系統的building block,以模組化方式建立系統以利維護,例如針對各模組的error analysis


-- Eval the system

--- 有 LLM 就會有較難掌控的部分發生,例如不合企業形象的回覆,所以要在eval過程改善

--- 這也是為什麼要有系統觀比較好,因為你比較容易知道哪裡出了問題,要修正哪部分

--- Eval 流程也能透過devide and conquer技巧,思考要叫另一個LLM除錯 or tool 提供犯錯的measure,如: 頻率、哪種情境等指標,還是要人工審查


-- reflecting 是提升品質的好方法

--- 透過善於推理的模型去評估改進系統,透過快速產出的模型提供初版

林位青-avatar-img
林位青喜歡這篇
avatar-img
加入討論
avatar-avatar
Boo.Ideas
發佈於Learner
更新 發佈閱讀 3 分鐘

花了一個下午多一點的時間,把 DeeplearningAI 的 Agentic AI 課程看完,對於AI代理的架構有了更完整的認識。一個水管工人是處理了無數次的管線才出師的,動手做解決問題是最快的學習方式。


- 知道如何拆解任務,將其定義在各個關鍵節點上,並將可由AI代理的部分全部代理出去


- 在節點間的串接就是 水管工,而熟練的串接是對你是否具備建立代理系統能力的重要評估

串接需要工具,代理系統依自主性高低,可分 :

高: 自主化的代理 LLM 能在任務中自主建立工具,

中: LLM 能自主決定要使用哪個預先定義好的工具

低: 所有工具、步驟都預先定義好,AI 自主決定能產生什麼步驟,由人類去操作


- devide and conquer,將一串流程拆解成各個獨立節點,再思考如何各自擊破,要用LLM or Tools,如果不行,再思考一次是否這節點還可以再細分成更小的步驟,最後再思考是否只能用 human 來解


- - 為什麼記帳APP比較容易實踐,因為他的任務步驟方便建立,只要有消費的人通常都知道一個記帳APP怎樣可以滿足你的需求,但是

--- 額外的需求呢? 需要理解阻力、suffer在哪 (又是一種taste?)

--- 更複雜的任務呢? 需要業務邏輯



-- 持有系統觀點讓效率更好

--- 在可以predefined的部分就先定義好,減少在不必要的階段讓 LLM 擁有自主性,例如: 客戶名稱、訂單編號、信箱、背景資訊

--- 知道整套系統的building block,以模組化方式建立系統以利維護,例如針對各模組的error analysis


-- Eval the system

--- 有 LLM 就會有較難掌控的部分發生,例如不合企業形象的回覆,所以要在eval過程改善

--- 這也是為什麼要有系統觀比較好,因為你比較容易知道哪裡出了問題,要修正哪部分

--- Eval 流程也能透過devide and conquer技巧,思考要叫另一個LLM除錯 or tool 提供犯錯的measure,如: 頻率、哪種情境等指標,還是要人工審查


-- reflecting 是提升品質的好方法

--- 透過善於推理的模型去評估改進系統,透過快速產出的模型提供初版

林位青-avatar-img
林位青喜歡這篇
avatar-img
加入討論