AI Agent Stack
閱讀時間約 2 分鐘
將當前構建AI代理的技術堆疊分為三個關鍵層次：（1）代理託管／服務，（2）代理框架，（3）LLM模型與存儲。
Sarah Wooders和我看到市場上關於LLM／AI代理的「市場地圖」充斥著讓人費解的佈局或隨機企業（即那些沒有得到社群認可的企業），甚至兩者兼而有之，我們感到非常厭煩。作為真正從事代理領域的研究人員／工程師，我們決定認真嘗試製作一幅真正反映當今開發者構建AI代理時使用的市場地圖。
基本上，如果你今天（2024年11月）開始一家縱向代理公司，你最有可能使用哪些軟體來構建你的「代理堆疊」？
在我們看來，AI/LLM代理堆疊與標準LLM堆疊有顯著不同。兩者之間的關鍵區別在於狀態管理：LLM服務平台通常是無狀態的，而代理服務平台則需要有狀態（在代理伺服器端保留代理的狀態）。
構建有狀態服務比構建開發者SDK面臨更大的工程挑戰，因此如今實際存在的代理服務平台很少（Letta就是其中之一）。
0會員
8內容數
Intellicon Solutions（智慧方案股份有限公司）是一家專注於為企業提供生成式 AI 解決方案的領先供應商。我們的核心產品「AI Agent Hub」旨在協助企業將最新的 AI 技術整合到營運與服務流程中，提升效率與競爭力。
留言0
查看全部
你可能也想看
Google News 追蹤
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
在當今快速變化的數位時代，企業面臨著前所未有的數據處理需求。為了應對這些挑戰，企業紛紛建立自己的大型語言模型（LLM），利用大量數據進行訓練，讓模型能夠理解並生成自然語言，從而實現人機協作，優化業務流程並提升客戶體驗。
本文要探討AI的任務與實戰場景。AI技術已深入生活各層面，從違約預測到都市交通管理。AI任務主要有三類：數值型資料處理、自然語言處理（NLP）和電腦影像辨識。時間序列資料和強化學習方法（如AlphaGo）也引起廣泛關注。AI演算法和方法因應不同學派和技術發展而多樣化，了解這些基礎有助選擇適合研究方向
了解到現在的生成式AI各有千秋，且能協助的事之多，各家業者有如「電信公司」，遲早會是比較「行動方案」，甚或是拿著不同業者的「多門號」，人人都配有人工智慧了。
我一向不是科技的早期使用者，各家AI我都只用過免費版。
ChatGPT
作為前鋒的GPT，曾請它協助將英文句子潤色、修整文法，以解
本文談及資料科學的領域與分工。首先是建造一個AI的研發流程，資料收集到 AI 模型訓練的過程，AI經歷這一切流程被創造出來並產生價值；再來本文也提及在這個領域中的各種腳色、資料工程師、數據庫工程師、資料科學家和資料分析師的各種介紹。並且強調跨領域合作的重要性。
背後的機制是： 人類用戶：設定目標 AI Agent：定義任務排序任務 (Defining and Sequencing Tasks)，執行任務 (Task Execution)，評估 (Evaluation) 而這途中，AI Agent可以使用大語言模型，可以使用網路，可以使用其他工具。
目前，「AI代理人 AI Agent」這個字，
大概就是指人類如何與「大語言模型 (Large Language Model; LLM)」互動。
而在Micheal Lanham 的著書，《AI Agents in Action》的第一章[1]，提到了四種人類與大語言模型互動的方式：
「AI 代理人 AI Agent」是一個充滿魅力的概念。
我第一次接觸到Agent這個字，
是博士時期研究Bandit Algorithms [1]，
在「強化學習 Reinforcement Learning」的literature中看到的。
在當初做Bandit Algo
隨著ChatGPT問世以來，AI持續在不同領域上發揮作用。虛擬人已能代理人類完成特定任務，是新興科技從工具擴展至落地應用服務的關鍵產物。
透過觀察AI如何賦能Web3的發展，以及觀測各種國際創新應用案例，請參加此免費研討會，了解「虛擬人應用發展趨勢」和「從AI賦能Web3新興應用看發展趨勢」二個議題
從Open AI推出Chat GPT3.5以來，2023年幾乎話題都圍繞著生成AI，在經濟市場上，AI科技股看好看漲，而AI的運用，更是突破大家的想像。
甚至連詐騙集團都趕上AI的風潮。之前節目有針對兩岸詐騙手法與模式作介紹，想進一步瞭解，在AI浪潮之下，兩岸就AI的法律有沒有什麼相應的管制或措施？
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
在當今快速變化的數位時代，企業面臨著前所未有的數據處理需求。為了應對這些挑戰，企業紛紛建立自己的大型語言模型（LLM），利用大量數據進行訓練，讓模型能夠理解並生成自然語言，從而實現人機協作，優化業務流程並提升客戶體驗。
本文要探討AI的任務與實戰場景。AI技術已深入生活各層面，從違約預測到都市交通管理。AI任務主要有三類：數值型資料處理、自然語言處理（NLP）和電腦影像辨識。時間序列資料和強化學習方法（如AlphaGo）也引起廣泛關注。AI演算法和方法因應不同學派和技術發展而多樣化，了解這些基礎有助選擇適合研究方向
了解到現在的生成式AI各有千秋，且能協助的事之多，各家業者有如「電信公司」，遲早會是比較「行動方案」，甚或是拿著不同業者的「多門號」，人人都配有人工智慧了。
我一向不是科技的早期使用者，各家AI我都只用過免費版。
ChatGPT
作為前鋒的GPT，曾請它協助將英文句子潤色、修整文法，以解
本文談及資料科學的領域與分工。首先是建造一個AI的研發流程，資料收集到 AI 模型訓練的過程，AI經歷這一切流程被創造出來並產生價值；再來本文也提及在這個領域中的各種腳色、資料工程師、數據庫工程師、資料科學家和資料分析師的各種介紹。並且強調跨領域合作的重要性。
背後的機制是： 人類用戶：設定目標 AI Agent：定義任務排序任務 (Defining and Sequencing Tasks)，執行任務 (Task Execution)，評估 (Evaluation) 而這途中，AI Agent可以使用大語言模型，可以使用網路，可以使用其他工具。
目前，「AI代理人 AI Agent」這個字，
大概就是指人類如何與「大語言模型 (Large Language Model; LLM)」互動。
而在Micheal Lanham 的著書，《AI Agents in Action》的第一章[1]，提到了四種人類與大語言模型互動的方式：
「AI 代理人 AI Agent」是一個充滿魅力的概念。
我第一次接觸到Agent這個字，
是博士時期研究Bandit Algorithms [1]，
在「強化學習 Reinforcement Learning」的literature中看到的。
在當初做Bandit Algo
隨著ChatGPT問世以來，AI持續在不同領域上發揮作用。虛擬人已能代理人類完成特定任務，是新興科技從工具擴展至落地應用服務的關鍵產物。
透過觀察AI如何賦能Web3的發展，以及觀測各種國際創新應用案例，請參加此免費研討會，了解「虛擬人應用發展趨勢」和「從AI賦能Web3新興應用看發展趨勢」二個議題
從Open AI推出Chat GPT3.5以來，2023年幾乎話題都圍繞著生成AI，在經濟市場上，AI科技股看好看漲，而AI的運用，更是突破大家的想像。
甚至連詐騙集團都趕上AI的風潮。之前節目有針對兩岸詐騙手法與模式作介紹，想進一步瞭解，在AI浪潮之下，兩岸就AI的法律有沒有什麼相應的管制或措施？