Assistant API 橫空出世!還需要學 LangChain 嗎?

OpenAI Dev Day

在接近 OpenAI Dev Day 的前幾天,突然有了想學 LangChain 的衝動,當時還不知道 OpenAI 有重大消息要宣佈。單純是想要來學學 LLM 開發,寫一個簡單的 Youtube 字幕轉換成文章的工具。

AI 時代拖延的好處

LangChain?

Langchain 是一款開源框架,利用人工智慧和機器學習演算法來理解和生成接近人類的語言,專為簡化開發大型語言模型(LLMs)的應用程序而設計。它廣泛適用於文檔分析、摘要編制、聊天機器人和代碼分析等領域。該平台不僅支援與眾多工具的整合,提供了一套標準化的介面來串聯不同的應用程序組件,還能讓開發者透過提示進行交互,以創建更為複雜和細緻的互動應用程序。

簡單說就是把你跟機器人的對話步驟(這些資訊給我記起來、繼續、下一步…),通通用寫程式的方式串起来。

Youtube 字幕轉文章

前陣子接觸到幾個能夠把 Youtube 字幕轉文章的服務,覺得轉出來效果不是很理想。而且多數沒有字幕檔就不能轉、或者只支援英文,如果資訊不足,文章輸出就是標準 ChatGPT 的胡言亂語。

因而興起了學習 LangChain 的想法,看能不能把 Whisper JAX 也接上,做一個小小工具來玩玩看。趁著洗碗的時候,聽幾個介紹 LangChain 概念的影片,深深覺得:嗯,這就是我要的。也已經計畫好,要在週末空閒時開始學習動工。

GPT-4 turbo + Assistant API

目前看起来(因為我都用想像的,還沒動手過),Assistant API 出現後,再加上 GPT-4 Turbo 可怕的上下文能力,似乎是直接把 LangChain 核心的部分給做掉,不留活路阿。

如果只是要做單純的應用,真的什麼都不要想,直接用你最熟悉的語言,無腦 call API 餵資料就好。

也難怪一堆人說這次發表會幹掉一堆小新創公司…(目前看起來,我前幾個月買的 LTD 服務中,應該也會死好幾個…嗚嗚嗚嗚)

請說服我繼續學 LangChain

那既然 OpenAI 提供的服務都已經滿足一般使用需求,還有什麼理由繼續學 LangChain 呢?

當然還是有幾個,我們先看看 Assistant API 出現後,開發 LLM 服務的三種方式:

  1. 新手、不想花太多時間的開發者:我只負責 Call API,剩下都交給 OpenAI。
  2. LangChain:不滿足於 Assistant API 提供的服務,需要更多客製化。
  3. 大神級別:通通從頭自己來(Thread、Memory、Chain…),可能最好(成本)也可能最壞(程式碼複雜度)。

OpenGPTs

LangChain 版 GPTs,如果你沒有訂閱 ChatGPT,或者是跟我一樣還在等 OpenAI 大發慈悲開通 GPTs 的話,或許可以先試試這個。

OpenGPTs UI

一致的開發體驗

透過 LangChain 可以減少程式碼的混亂,也能使用 Memory、Local LLM、Chain 等功能。目前也已經提供 Assistant OpenAI Agent,省去一步步呼叫 API(Create an Assistant、Create a Thread…)的撰寫成本。

LangChain imagination

結論

進步神速的 AI,說不定用嘴巴寫程式的方式(出一張嘴的____),明天就會突然蹦出來。

但是在那個時代還沒到來之前,多學點東西對腦袋還是有小小幫助,也不會太快老人癡呆。

OpenAI: 一切就緒,開發者們,閉嘴掏錢就對了。

References

READ  我的第一個 GPT 和你該注意的事
返回頂端