OpenAI Dev Day
在接近 OpenAI Dev Day 的前幾天,突然有了想學 LangChain 的衝動,當時還不知道 OpenAI 有重大消息要宣佈。單純是想要來學學 LLM 開發,寫一個簡單的 Youtube 字幕轉換成文章的工具。
LangChain?
Langchain 是一款開源框架,利用人工智慧和機器學習演算法來理解和生成接近人類的語言,專為簡化開發大型語言模型(LLMs)的應用程序而設計。它廣泛適用於文檔分析、摘要編制、聊天機器人和代碼分析等領域。該平台不僅支援與眾多工具的整合,提供了一套標準化的介面來串聯不同的應用程序組件,還能讓開發者透過提示進行交互,以創建更為複雜和細緻的互動應用程序。
簡單說就是把你跟機器人的對話步驟(這些資訊給我記起來、繼續、下一步…),通通用寫程式的方式串起来。
Youtube 字幕轉文章
前陣子接觸到幾個能夠把 Youtube 字幕轉文章的服務,覺得轉出來效果不是很理想。而且多數沒有字幕檔就不能轉、或者只支援英文,如果資訊不足,文章輸出就是標準 ChatGPT 的胡言亂語。
因而興起了學習 LangChain 的想法,看能不能把 Whisper JAX 也接上,做一個小小工具來玩玩看。趁著洗碗的時候,聽幾個介紹 LangChain 概念的影片,深深覺得:嗯,這就是我要的。也已經計畫好,要在週末空閒時開始學習動工。
GPT-4 turbo + Assistant API
目前看起来(因為我都用想像的,還沒動手過),Assistant API 出現後,再加上 GPT-4 Turbo 可怕的上下文能力,似乎是直接把 LangChain 核心的部分給做掉,不留活路阿。
如果只是要做單純的應用,真的什麼都不要想,直接用你最熟悉的語言,無腦 call API 餵資料就好。
也難怪一堆人說這次發表會幹掉一堆小新創公司…(目前看起來,我前幾個月買的 LTD 服務中,應該也會死好幾個…嗚嗚嗚嗚)
請說服我繼續學 LangChain
那既然 OpenAI 提供的服務都已經滿足一般使用需求,還有什麼理由繼續學 LangChain 呢?
當然還是有幾個,我們先看看 Assistant API 出現後,開發 LLM 服務的三種方式:
- 新手、不想花太多時間的開發者:我只負責 Call API,剩下都交給 OpenAI。
- LangChain:不滿足於 Assistant API 提供的服務,需要更多客製化。
- 大神級別:通通從頭自己來(Thread、Memory、Chain…),可能最好(成本)也可能最壞(程式碼複雜度)。
OpenGPTs
LangChain 版 GPTs,如果你沒有訂閱 ChatGPT,或者是跟我一樣還在等 OpenAI 大發慈悲開通 GPTs 的話,或許可以先試試這個。
一致的開發體驗
透過 LangChain 可以減少程式碼的混亂,也能使用 Memory、Local LLM、Chain 等功能。目前也已經提供 Assistant OpenAI Agent,省去一步步呼叫 API(Create an Assistant、Create a Thread…)的撰寫成本。
結論
進步神速的 AI,說不定用嘴巴寫程式的方式(出一張嘴的____),明天就會突然蹦出來。
但是在那個時代還沒到來之前,多學點東西對腦袋還是有小小幫助,也不會太快老人癡呆。
OpenAI: 一切就緒,開發者們,閉嘴掏錢就對了。