44 LangChain又進化啦!- Expression Language 01 實現聲明式編程

学习与实践
173粉絲
11 次觀看·2023年11月5日
最新版本的langchain框架已經支持聲明式的方式來構建鏈。這是通過它的新特性Expression Language來實現的。
本期視頻帶你體驗聲明式編程下的LangChain應用開發。
本期視頻代碼
https://github.com/sugarforever/LangChain-Tutorials/blob/main/expression-language/LangChain_Expression_Language.ipynb
Cookbook
https://python.langchain.com/docs/expression_language/cookbook
Python Pipe
https://github.com/JulienPalard/Pipe
大家好,我是小莫特
歡迎大家來到我的視頻頻道
在AI領域
最近非常非常流行的框架Lantern
又發佈了一系列的更新
在這些更新中
我想最具有代表性的
應該就是新特性Expression Language
在他們的官方文檔
對它也有比較詳細的介紹
今天我就希望通過大約10到15分鐘的時間
來分享什麼是Expression Language
以及如何使用它
最後來簡單的總結它的優勢
以及適用在哪些領域
按照慣例
我還是在這裏準備了一份Python Notebook
將今天分享的內容整合在了這裏
先來看看什麼是Expression Language
這是一種以聲明式的方式
輕鬆的構建Lantern中最重要的概念
鏈的一種機制
同時也可以幫助我們將不同的組件
組合在或串聯在一起
通過利用管道操作符來構建條鏈
這樣的鏈將自動具備
同步異步和流逝的支持
當然了
基於Lantern Expression Language的開發代碼
也會更加的簡潔優雅
同時更加清晰易懂
接下來我們先通過一個開源項目
來分享在Python中如何實現管道
我們會參考或引用GitHub上的一個項目Pipe
也就是現在我所分享的這個項目
我們要做的第一步當然是安裝了
安裝一個Pipe包
Pipe install pipe
這裏我們來看看最簡單的例子
在這個例子當中定義了一個
12345個元素宿主
期望的操作是從宿主中過濾出偶數
並將每個數字乘二
如果不使用Pipe
我們會想到什麼樣的實現呢
或許我們會使用for loop
來便利找到偶數並乘二
最終構建出一個宿主
這個操作結果應該是一個兩個元素的
宿主其中包含了四和八
那我們如果利用管道利用Pipe
可以像現在我們所看到這個例子這樣實現
束線就是管道操作服務
在Pipe這個開發包中引入兩個函數
select和where
where函數類似於過濾的概念
它接受一個lambda表達式
這個表達式的返回值true還是false
決定了這個元素
也就是從管道輸入的元素是否會被過濾掉
這個where就非常類似於
SQL查詢中的select where
而select也會接受一個lambda表達式
我們在這裏看到一個lambda表達式的定義
它對每個元素乘二
這就類似於一個map的概念
如果我們點擊where或select函數
那麼我們打開where的定義
可以看到它能夠接受的參數有哪些
一個是iterable
一個是predicate
iterable就是管道輸入的
在我們這裏呢
numbers是個數組
它就是一個iterable對象
它作爲輸入提供給了where函數
那lambda表達式就決定了
哪些元素會被過濾掉
在這裏呢用了一個非常簡單的實現
只要能被二整除的
整除爲餘數爲0的
那就是偶數了
因此這個管道的實現
就是將numbers數組中偶數保留
並乘二
這樣就得到了4和8的兩個元素的數組
實現還是非常的清晰
這個邏輯呢
跟我們在Linux當中
在命令行控制檯中使用的管道
有非常類似的概念
這就是一個在python中使用管道的例子
那麼在Lancheng Expression Language當中
也會有非常類似的概念
它們的使用也是非常相似的
那在進入Lancheng Expression Language使用之前呢
我們小小的進階一下
再來定義一個自定義的管道
Uppercase
我們希望對一個iterable對象
通過管道能夠將每個元素
轉換成大寫
在這裏呢定義了一個單詞的數組
Red, Green, Blue, Yellow
當然了最後那個Yellow這個單詞呢
已經寫成大寫
希望通過管道的形式
將每一個單詞轉換成大寫
在這裏我們依然使用的是Pipe
我們可以自定義一個Pipe
在這裏呢
只需要從Pipe包中引入這個
Pipe對象這個Pipe類
如果我們打開這個Pipe
可以看到它的定義
這個類就代表一個Pipeable的元素
和剛纔我們用到的
where和select非常類似
我們傳遞給他的
依然是一個lambda表達式
他接受一個iterable的輸入
或者參數
這個iterable呢
會被這個lambda表達式
便利並對每一個元素
做upper的函數調用
也就是變成大寫
當然了在這裏只是演示
並沒有對這個輸入的參數
做類型驗證
以及對這個
數組或者iterable中的
每一個迭代的元素
進行類型驗證
因此在這裏
我們假設輸入的
就是一個字符串的數組
這樣確保它是
都可以調用upper函數的
當定義好這個upper case
這個Pipe以後呢
就可以通過管道操作服
把它和字符串數組
連接在一起
這就完成了對每一個元素
進行字符大寫的一個操作
最後得到結果
可以看到在這裏的輸出
就是紅綠藍黃的大寫
這就是管道的概念
接下來我們看看
Lancheon Expression Language與管道
在後續的內容中
對Lancheon Expression Language
我們簡稱爲LEL
這也方便我們描述
我們來看看如何通過LEL
能夠來重構幾個
經典的Lancheon實例
在過去的介紹中
我們介紹大量如何使用Lancheon
那我們看看在之前實現的一些
功能中如何用LEL來簡化代碼
必要做的事情呢
當然是Lancheon和OpenAI包的安裝
Pipe Install Lancheon OpenAI
我們會用的OpenAI的模型
必要的是在環境變量中
設置OpenAI的API Key
這裏呢大家需要設置一下
在提示詞模板與模型的配合中
傳統的實驗方式呢
我們在這裏做了一個實例
在這個實例中會構建一個提問的模板
Show me the hex code of color
期望的是基於顏色的名字
來詢問模型它的16進制編碼是什麼
那在這裏我們構建了一個提示詞模板
同時呢基於這個人類語言
或者人類消息的模板
來構建一個聊天提示詞模板
Prompt Template
這個實例
最後呢構建一個LLM Chain
這麼一條鏈
這個鏈呢基於大猿模型
OpenAI的模型Chart Model
這就是如何構建一條鏈
讓它幫助我們來與模型交互
提供的是顏色的名字
在這裏呢提問的是紅色
紅色的16進制編碼是什麼呢
模型會告訴我們
如果我們執行這部分代碼
我們會看到模型告訴我們
16進制編碼呢是FF0000
這當然是對的
RGBR就是FF
接下來我們通過LEL
嘗試連接提示詞模板與模型
看看如何利用LEL實現同樣的功能
通過查看下面的代碼呢會發現
相較於傳統實驗方式它更加的精簡
必要的元素還是需要的
模型變量和提示詞模板變量
Model使用的是OpenEdge Chart Model
提示詞模板呢使用同樣字符串來實現的定義
都是詢問顏色的16進制編碼
那麼在鏈的創建上就不再像傳統方式了
在這裏呢只是需要通過管道操作符
將提示詞模板變量和模型變量串聯在一起
意思就是提示詞模板的輸出
提示詞會作爲輸入提供給模型變量
就那麼簡單
構建出來的變量就是一條鏈一個Chain
我們如何使用它呢
通過Invoke函數來調用
調用時需要傳遞參數
就是在提示詞模板中的變量
在這裏呢ColorName我設置爲了Red
我希望查看紅色的16進制編碼
運行一下代碼會發現
它給到我們的是一個AMMessage類型的響應
其中有個字段Content
就是模型給到我們的回答
16進制的編碼呢是FF0000
接下來我們來再添加一些內容給這個管道
一個稍稍複雜一些的例子
在Invoke函數調用返回呢
是一個AMMessage類型的對象
我希望對這個輸出做一些進一步的處理
如果大家對輸出解析器比較瞭解的呢
應該知道安全框架提供了一系列的輸出解析器
在這裏我希望將這個輸出解析成字符串
那我們可以使用STROutputParser
這個類幫助我們將輸出
轉換成字符串的表達形式
在鏈的構建上我們只需要通過管道操作服
將Model和一個STROutputParser實例串聯在一起就好
意思就是模型的輸出
AMMessage會作爲輸出提供給這個Parser
Parser會將這個AMMessage轉換成一個字符串表達
那在這裏呢它就會轉換成
或者它會用MessageContent的字段作爲輸出
我們來看看它的執行
這次invoke的結果呢
就不再是一個AMMessage類型變量了
取而代之的就是這個字符串
字符串內容
這個代碼呢也非常的簡單
非常的精簡
也好非常易於我們理解
最後的這個例子
我們嘗試添加一些函數調用的元素到這個管道中
當然了這裏我們並不做真正的函數調用
我們只是解析出函數調用的數據
我們先定義一個函數數組
這個數組中描述了系統所支持的函數
或者說函數簽名
這裏有一個函數叫SaveColorCode
描述了這個函數的作用
它是將顏色的16進制編碼和它的名字存儲下來
參數呢是一個對象類型的參數
有兩個字段
一個字段hex code
第二個字段color
分別是16進制編碼和顏色的名字
它們都是必須的
因此呢在require裏面
我們將兩個字段都放了進去
在鏈中要做什麼樣的調整呢
首先model這裏需要綁定一個function call
Name SaveColorCode
第二個上function
我們需要將這個函數的簽名
數組傳遞給它
在這個管道最後呢
對接的是JSON Output Function Passer
這個類的作用是將
函數調用的返回數據
進行解析
抽取以JSON的數據格式
返回給我們
有興趣的同學呢
可以點擊這個鏈接
來到這個passer的API文檔
瞭解它的詳細的參數信息
通過這樣的一個管道串聯
得到一個條鏈
如果我們再次執行這個代碼
會發現它的返回結果
就不再是剛纔這個文本
這個JSON Output Function Passer
就將剛纔的這個文本內容
解析成了一個JSON數據塊
這個數據塊呢
就有函數需要的兩個參數
hexcode和color的名字
hexcode是FF0000
顏色名字呢red
這就是如何使用管道操作服務
將提示詞模板
將模型
將輸出解析器串聯在一起
當然了
Expression Language不僅限於此
如果我們通過官方文檔的Cookbook
能看到更多的例子
我們後續呢
也會分享更多
更加實用
或者在更復雜的場景中
如何使用LEL
好了
今天的分享呢
就到這裏
有興趣的同學呢
也歡迎在自己的應用
或者事例中
嘗試使用一下Expression Language
並來評論區給我們反饋
究竟使用後的感覺如何
對於自己的產品的開發
有哪些方面的提升
那後續
我們期望能夠分享
更多更復雜場景中
LEL的使用
好吧
那今天咱們就到這裏
那同學們
如果覺得我們的內容有趣呢
也歡迎大家訂閱我們的頻道
那咱們就下次再見
好 同學們
拜拜
