Assistant API 橫空出世！還需要學 LangChain 嗎?
OpenAI Dev Day
在接近 OpenAI Dev Day 的前幾天，突然有了想學 LangChain 的衝動，當時還不知道 OpenAI 有重大消息要宣佈。單純是想要來學學 LLM 開發，寫一個簡單的 Youtube 字幕轉換成文章的工具。
AI 時代拖延的好處
LangChain？
Langchain 是一款開源框架，利用人工智慧和機器學習演算法來理解和生成接近人類的語言，專為簡化開發大型語言模型（LLMs）的應用程序而設計。它廣泛適用於文檔分析、摘要編制、聊天機器人和代碼分析等領域。該平台不僅支援與眾多工具的整合，提供了一套標準化的介面來串聯不同的應用程序組件，還能讓開發者透過提示進行交互，以創建更為複雜和細緻的互動應用程序。
簡單說就是把你跟機器人的對話步驟(這些資訊給我記起來、繼續、下一步…)，通通用寫程式的方式串起来。
Youtube 字幕轉文章
前陣子接觸到幾個能夠把 Youtube 字幕轉文章的服務，覺得轉出來效果不是很理想。而且多數沒有字幕檔就不能轉、或者只支援英文，如果資訊不足，文章輸出就是標準 ChatGPT 的胡言亂語。
因而興起了學習 LangChain 的想法，看能不能把 Whisper JAX 也接上，做一個小小工具來玩玩看。趁著洗碗的時候，聽幾個介紹 LangChain 概念的影片，深深覺得：嗯，這就是我要的。也已經計畫好，要在週末空閒時開始學習動工。
GPT-4 turbo + Assistant API
目前看起来（因為我都用想像的，還沒動手過），Assistant API 出現後，再加上 GPT-4 Turbo 可怕的上下文能力，似乎是直接把 LangChain 核心的部分給做掉，不留活路阿。
如果只是要做單純的應用，真的什麼都不要想，直接用你最熟悉的語言，無腦 call API 餵資料就好。
也難怪一堆人說這次發表會幹掉一堆小新創公司…(目前看起來，我前幾個月買的 LTD 服務中，應該也會死好幾個…嗚嗚嗚嗚)
請說服我繼續學 LangChain
那既然 OpenAI 提供的服務都已經滿足一般使用需求，還有什麼理由繼續學 LangChain 呢？
當然還是有幾個，我們先看看 Assistant API 出現後，開發 LLM 服務的三種方式：
- 新手、不想花太多時間的開發者：我只負責 Call API，剩下都交給 OpenAI。
- LangChain：不滿足於 Assistant API 提供的服務，需要更多客製化。
- 大神級別：通通從頭自己來(Thread、Memory、Chain…)，可能最好(成本)也可能最壞(程式碼複雜度)。
OpenGPTs
LangChain 版 GPTs，如果你沒有訂閱 ChatGPT，或者是跟我一樣還在等 OpenAI 大發慈悲開通 GPTs 的話，或許可以先試試這個。
OpenGPTs UI
一致的開發體驗
透過 LangChain 可以減少程式碼的混亂，也能使用 Memory、Local LLM、Chain 等功能。目前也已經提供 Assistant OpenAI Agent，省去一步步呼叫 API（Create an Assistant、Create a Thread…）的撰寫成本。
LangChain imagination
結論
進步神速的 AI，說不定用嘴巴寫程式的方式（出一張嘴的____），明天就會突然蹦出來。
但是在那個時代還沒到來之前，多學點東西對腦袋還是有小小幫助，也不會太快老人癡呆。
OpenAI: 一切就緒，開發者們，閉嘴掏錢就對了。
References
