
AI剛開始進入一般大眾的日常時(2023年),我開始接觸AI,嘗試跟ChatGPT溝通,發現到每一次開啟新的對話時,AI始終無法記得我是誰,總是忘記之前跟我的對話,因此都得從新說明、解釋,從頭再對話,之前的對話都白費了,不方便。
那時,我心想,如果AI可以認識我,甚至了解我的個人基本資訊、喜好和習慣,能夠記得之前的對話互動,還能記住過去學習的知識、搜尋的資訊以及累積的經驗,那有多好。我期望再過一段時間,AI可以具備這些能力,讓人類與AI的互動更好。
剛開始,AI的記憶力有其缺失及限制。太長的對話,會遺忘前面的部分。對話的中間部分比頭尾部分更容易忘記。此外,對話視窗的上下文有字數容量限制。
為了讓AI擁有記憶力,人類賦予它能力:
- 短期記憶--能記憶當前的對話及所接收的資訊和知識。
- 長期記憶--能記憶過去到現在的對話及所接觸的資訊和知識。
- 程序記憶--能記憶過去所學習的知識和技能及做事方法流程。
- 情節記憶--能記憶過去滿足使用者需求、解決問題及執行任務等的經歷。
AI Agent會用短期記憶快速聚焦並處理當前的人與事;用長期記憶處理重要關鍵的訊息;用程序記憶優化效率;用情節記憶保留經驗。
AI具備了記憶力,Agent的記憶是如何運行的:
- 決定記憶的東西
AI需要有個機制可以判斷什麼須或值得記、什麼不必或不值得記,依循下列原則:
- 互動對象是否清楚明確表達(比如指示「請記住……」)
- 訊息重要性(會不會影響未來決策等)
- 訊息獨特性(是不是有什麼新發現等)
- 把記憶儲存起來
將決定記憶的東西儲存在某個地方,最常的是向量資料庫。它是用語意進行搜尋,而非關鍵字搜尋。AI將所須記憶的訊息儲存時,會將該訊息轉換成一串數字(向量),這串數字表示這句語言和這段文字的意義。這個技術叫做嵌入(Embedding),意思相似的語言文字會被轉換成相近的數字,在儲存的空間中會靠近相鄰。每個數字代表這句語言或這段文字在語意維度的位置。而這是AI自身發現、發展出來且理解的抽象概念。為了實現長期記憶,需將資訊和知識儲存在AI的大腦(LLM)的外部。就像人會用筆記、相簿等輔助記憶。 P.S. 維度(Dimension)是描述一個點在空間中的位置所需的坐標數。核心概念包括0維(點)、1維(線)、2維(面)、3維(體),而高維(如4D及以上)則用於描述更複雜的空間或系統,例如超立方體。我們人類生活在三維(3D)立體世界,AI運用的向量維度是高維(多維)、是由許多維度所構成的。
- 找尋並提取記憶
在需要時,AI會從記憶(資料庫)中找取相關的訊息。而且它不是搜尋關鍵字,而是搜尋跟關鍵字相關的所有訊息。這些訊息會被統整在當前的對話中,AI可以做出更好的回應、思考和行動。




















