Assistant API 橫空出世！還需要學 LangChain 嗎?

OpenAI Dev Day

在接近 OpenAI Dev Day 的前幾天，突然有了想學 LangChain 的衝動，當時還不知道 OpenAI 有重大消息要宣佈。單純是想要來學學 LLM 開發，寫一個簡單的 Youtube 字幕轉換成文章的工具。

AI 時代拖延的好處

LangChain？

Langchain 是一款開源框架，利用人工智慧和機器學習演算法來理解和生成接近人類的語言，專為簡化開發大型語言模型（LLMs）的應用程序而設計。它廣泛適用於文檔分析、摘要編制、聊天機器人和代碼分析等領域。該平台不僅支援與眾多工具的整合，提供了一套標準化的介面來串聯不同的應用程序組件，還能讓開發者透過提示進行交互，以創建更為複雜和細緻的互動應用程序。

簡單說就是把你跟機器人的對話步驟(這些資訊給我記起來、繼續、下一步…)，通通用寫程式的方式串起来。

Youtube 字幕轉文章

前陣子接觸到幾個能夠把 Youtube 字幕轉文章的服務，覺得轉出來效果不是很理想。而且多數沒有字幕檔就不能轉、或者只支援英文，如果資訊不足，文章輸出就是標準 ChatGPT 的胡言亂語。

因而興起了學習 LangChain 的想法，看能不能把 Whisper JAX 也接上，做一個小小工具來玩玩看。趁著洗碗的時候，聽幾個介紹 LangChain 概念的影片，深深覺得：嗯，這就是我要的。也已經計畫好，要在週末空閒時開始學習動工。

GPT-4 turbo + Assistant API

目前看起来（因為我都用想像的，還沒動手過），Assistant API 出現後，再加上 GPT-4 Turbo 可怕的上下文能力，似乎是直接把 LangChain 核心的部分給做掉，不留活路阿。

如果只是要做單純的應用，真的什麼都不要想，直接用你最熟悉的語言，無腦 call API 餵資料就好。

也難怪一堆人說這次發表會幹掉一堆小新創公司…(目前看起來，我前幾個月買的 LTD 服務中，應該也會死好幾個…嗚嗚嗚嗚)

請說服我繼續學 LangChain

那既然 OpenAI 提供的服務都已經滿足一般使用需求，還有什麼理由繼續學 LangChain 呢？

當然還是有幾個，我們先看看 Assistant API 出現後，開發 LLM 服務的三種方式：

1. 新手、不想花太多時間的開發者：我只負責 Call API，剩下都交給 OpenAI。
2. LangChain：不滿足於 Assistant API 提供的服務，需要更多客製化。
3. 大神級別：通通從頭自己來(Thread、Memory、Chain…)，可能最好(成本)也可能最壞(程式碼複雜度)。

OpenGPTs

LangChain 版 GPTs，如果你沒有訂閱 ChatGPT，或者是跟我一樣還在等 OpenAI 大發慈悲開通 GPTs 的話，或許可以先試試這個。

一致的開發體驗

透過 LangChain 可以減少程式碼的混亂，也能使用 Memory、Local LLM、Chain 等功能。目前也已經提供 Assistant OpenAI Agent，省去一步步呼叫 API（Create an Assistant、Create a Thread…）的撰寫成本。

結論

進步神速的 AI，說不定用嘴巴寫程式的方式（出一張嘴的____），明天就會突然蹦出來。

但是在那個時代還沒到來之前，多學點東西對腦袋還是有小小幫助，也不會太快老人癡呆。

OpenAI: 一切就緒，開發者們，閉嘴掏錢就對了。

References

• X 上的 宝玉
• X 上的 John Weak
• X 上的 LangChain
• Reddit – Dive into anything