35 LangChain入門 - ChatOpenAI與OpenAI究竟有何不同

学习与实践
173粉絲
2023年11月5日
LangChain框架提供了兩個非常相似的類ChatOpenAI與OpenAI。本期視頻詳細介紹它們的差異。
代碼
https://github.com/sugarforever/LangChain-Tutorials/blob/main/LangChain_ChatOpenAI_OpenAI_Diff.ipynb
相關鏈接
OpenAI - Model endpoint compatibility
https://platform.openai.com/docs/models/model-endpoint-compatibility
大家好
在最近較長的一段時間
我們在Lancher框架這個話題上
做了一系列的視頻分享
希望這些分享呢
也給到同學們一些幫助
特別是在基於Lancher框架
進行AI應用開發的過程中
當然了
我們用的最多的
應該還是OpenAI這個平臺和服務
那在使用的過程中
同學們也時常會給到我一些反饋
其中有個挺有趣的問題
是ChatOpenAI和OpenAI
這兩個非常相似的類究竟有什麼差異
爲什麼有的時候
當指定模型名稱的時候
程序會報錯
那今天呢
我就希望通過這期簡短視頻
來聊一聊這兩個類
並分享一下他們的使用的正確方式
首先呢我們來到Lancher框架的一篇文檔
這是OpenAI Functions
我們並不介紹文檔的具體內容
我們來分享的是
OpenAI和ChatOpenAI這兩個類
在這份示例代碼中
對他們都有引入
那可以看到這兩個類
來自於Lancher的不同的包
其實這也暗示了他們的差異
在進入今天代碼分享之前呢
我們先來看看OpenAI的官方文檔
在OpenAI的API部分
其實是有兩個概念
一個是Chat
一個是Completion
Chat爲我們提供的API是ChatCompletion
而Completion這個API呢
它是v1slashCompletion
它們的URL是不一樣的
那Chat側重於
模型被給予一組消息
來構成了一個繪畫
那模型基於這個對話
這個繪畫能夠進行後續的響應
而Completion則更側重於
問與答這麼一個交互場景
所以它並沒有繪畫的概念
這就是這兩個API的差異
這兩個API的差異也導致了
後續我們會聊的Chat OpenAI和OpenAI
那接下來我們就進入
今天的實例代碼部分
在這裏呢
我們會通過非常簡單的兩個實例
來介紹究竟它們之間的差異是什麼
在我們安裝了必要的包以後
當然了
這裏我們引入的也是剛纔實例的
這個文檔總實例代碼的引入的類
有些類是冗餘的
大家可以自行刪除
我們並不會用到那麼多
這裏指定一個自己有效的API Key
接下來
首先我們來看看Chat OpenAI
這個類使用的就是剛纔我們介紹的
OpenAI的API Chat Completions
它所使用的模型或者它支持的模型
是下面我們看到的幾類
主要是GPT-4和GPT-3.5這兩類
也通常被稱爲聊天模型Chat Models
那究竟支持哪些模型呢
可以來到這份文檔
這個是每一個API對模型的支持
我們會看到在這裏呢
Chat Completions支持的是
GPT-4和GPT-3.5 Turbo這些模型
而Completions支持的是
DaVinci, Query, Babbage and Ada這些模型
我們可以看到GPT-3.5 Turbo以上的
這些更先進的模型呢
是被支持在這個聊天的
這個Chat Completions當中
這正是這兩個類之間的差異了
那回到我們的實例代碼
在這裏我們首先可以來實例化一個
Chat OpenAI的實例
在這個實例使用上還是有差異的
Chat OpenAI的使用呢
我們傳遞消息的時候
是需要給它一個
安全框架封裝的消息類的實例的
可以是一個宿主
我們在這裏呢就構建了一個
人類提出的問題
其實就是給AI打個招呼
當然這個問題本身並不關鍵
我們在這裏一方面演示
它的調用情況
調用方式
另一方面呢是介紹不同的模型的支持
在這裏會看到AI回到
回答的消息是
Hello I am AI
I don't have feelings
它沒有什麼感覺
這正是它的回答
當然在這裏
既然這個message是個宿主
就可以將AI的回應
這個消息追加到宿主裏
再提出人類的一個問題
繼續提問
等待模型的回答
這樣就形成了一個問答
這就是一個繪畫
那接下來我們看看OpenAI
OpenAI使用的是不同的API
也是剛纔我們介紹的
就是v1 slash completions
它所支持的是相對老的這些模型
使用方式呢
非常類似
在這裏我們指定了使用的Win10003
我們將其實例化
在這裏的調用就
相對ChatOpenAI更簡單一些
直接提出問題
以字串的形式調用這個實例就行
我們來看看它的調用情況
它也會很快地給到我們一個回答
那這正是OpenAI和ChatOpenAI之間的差異
那麼OpenAI所支持的模型有哪些呢
也就是completions這個API
支持的這幾個模型
那現在我們就來看看
究竟在這兩個類當中
如果交換使用
它不支持的模型會是什麼呀
首先我們在OpenAI當中
我們來嘗試使用ChatModel
也就是上面我用的GPT-3.5 Turbo這個模型
如果我們將其替換
看看會有什麼樣的結果
我們實例化這個大圓模型
這個實例LLM
我們再發起一次提問
會看到這裏
它其實依然可以正常地回覆我們
那我們來到ChatOpenAI這裏
我們將這個GPT-3.5 Turbo這個模型
替換成DaVinci 003
我們來看看它會怎麼樣
剛纔我們構建消息
現在就要向模型提問
好了
我們會看到在這裏呢
剛纔的消息或者或剛纔的提問呢
出現了一個錯誤
這裏提示我們
這不是一個ChatModel
不是一個聊天模型
因此是不被V1 Chat Completion這個API支持的
我們剛纔在ChatOpenAI的實例化的時候
用到了模型DaVinci 003
因此在這裏
它也就給到了我們一個指導
像GPT-3.5 Turbo
其以上版本模型呢
也被稱爲了ChatModel
聊天模型
適用於聊天場景
人類與AI之間的
有多輪的問與答的交互的場景
這就是我們說是
我們使用ChatModel的場景
而OpenAI這個類
所使用的V1 Completion這個API呢
它主要使用的是DaVinci
及以下老版本的模型
當然了
目前而言
在OpenAI這個類的使用中
我們即使給它傳遞更高級的模型
像GPT-3.5 Turbo
它也不會報錯
它可能會有一些告警
警告
大家在Python腳本的執行中
可能會看到一些警告信息
說這個模型
並不是被這個V1 Completion
API所支持
將來可能會被刪除
因此呢
我們可以根據
自己的具體應用場景
來選擇究竟使用Chat
OpenAI還是OpenAI
那ChatOpenAI的使用呢
也就是剛纔我們介紹的
繪畫場景
好了
那我想這個呢
就是對今天這個
ChatOpenAI和OpenAI的總結
希望給到同學們一些幫助
有興趣的同學們呢
也可以點擊這個
Link
查看它的原代碼
來了解究竟
它是如何實現的
這也有助於幫助同學們理解
究竟它們有什麼差異
而模型之間的差異呢
在OpenAI的方面呢
可以參考這份文檔
來了解每個API究竟它對模型
是有哪些支持
那我也會把所有鏈接
放到視頻描述中
感興趣的同學們
就可以到描述中取用
當然這份代碼我也會分享
在視頻中
那我們今天的分享就到這裏
同學們有什麼問題呢
也歡迎在評論區留言
我們後續會就更多
大家提出的問題
來做一些分享
希望幫助同學們
能夠更好的在
AI應用開發道路上
順順利利
好吧
那今天的分享就到這裏
我們就下次再見
同學們拜拜
