31 LangChain入門 - 3行代碼實現OpenAI聊天記錄的文件或數據庫存儲

学习与实践
173粉絲
1 次觀看·2023年11月5日
LangChain框架提供了消息歷史持久化的機制,將OpenAI的聊天記錄存儲到文件或數據庫中。這裏我們通過示例代碼,展示如何輕鬆地將聊天記錄存儲到文件中。
代碼
https://github.com/sugarforever/LangChain-Tutorials/blob/main/Langchain_Memory_Persistent_Store.ipynb
相關鏈接
https://python.langchain.com/docs/modules/memory/agent_with_memory_in_db
https://github.com/langchain-ai/langchain/blob/master/langchain/memory/chat_message_histories
大家好
剛纔所看到的是我跟聊天機器人的簡單的交互
這是一個在Flourish這個無代碼AI平臺上構建的聊天機器人
當我們關閉這個聊天對話窗口
回到首頁
再次進入聊天機器人
顯然這個聊天記錄是依然存在的
它還能夠加載出來
那同學們是否好奇這個是如何實現的呢
當然本質上它並不難
我們也可以自行編寫代碼將其存儲到數據庫中
那Flourish既然是一個基於LanchengIS框架的應用
那它是否有更加便捷的實現方式呢
答案是肯定的
Lancheng框架爲我們提供了聊天曆史記錄存儲的機制和接口
那我們可以方便地使用它來實現我們想要的存儲方式
比如存儲到文件或數據庫中
簡簡單單幾行代碼就能完成我們想要的功能
那今天我們這期視頻就通過大約5到10分鐘
來分享如何使用Lancheng框架所提供的
消息存儲機制
來方便地將聊天曆史記錄存儲到文件或數據庫中
這也對於在實際的AI應用場景中有非常重要的意義
聊天曆史記錄存儲得以幫助我們爲用戶在未來的某個時間
恢復當時的聊天記錄
繼續當時的繪畫
那首先我們來到一篇文檔
在這裏這是Python版本的Lancheng框架文檔
其中有一個場景介紹是將消息存儲到數據庫中
當然這是在agent構建場景這個文檔中介紹的
在這裏我們會看到有一行代碼
它引入了一個叫Redis chat message history這個類
類來自於chat message history這個包
我們可以來到Lancheng框架在GitHub代碼倉庫
這裏我們可以找到這個chat message history這個包
這裏頭導出了一系列的組件
通過組件名稱可以很直觀的看到
Lancheng框架對於不同的存儲提供了支持
可以將消息歷史存儲到Cassandra
Cosmos DB DynamoDB文件
File等等
甚至包括了MongoDB Postgres
Redis SQL等等
因此它的支持是非常豐富的
我們可以根據自己的需求將消息存儲到
期望的數據存儲中
我們今天所要使用的Python notebook
當中會演示如何使用文件系統
也就是基於文件來存儲消息歷史
當然在實際代碼技術上
同學們也可以自己去做一些修改
嘗試將聊天曆史存儲到Redis或SQL數據庫當中
我們現在就進入今天的分享
剛纔我們介紹了在這個notebook當中
是演示的文件存儲形式持續化
必要的安裝時序
總是要完成的Lancheng和OpenAI
今天我們所演示的場景
是相對簡單的與大猿猿模型的問答交互
那麼在交互基礎上
如何使用聊天曆史記錄存儲的組件
這是我們今天來重點分享的
在這裏當然要引入一系列的類
一個是OpenAI還有ConversationChain
這是我們要進行對話所使用的鏈
還有會用一個getOpenAICallback這個回調
它是爲我們實現了Token的統計技術
但這並不是今天分享的核心的功能點
只是輔助我們做一個統計
另外一個組件就是叫ConversationBufferMemory
我們使用的記憶組件就是這個
它是緩存的
就是每一條消息其實都會存在記憶組件當中
我們首先還是要準備自己OpenAI的API Key
接下來在這裏我們定義的輔助函數
TrackTokenUsage
函數會去完成鏈的run函數的調用
然後統計Token的使用
在這裏我們先執行一下這些代碼
接下來需要實例化一個大猿猿模型變量
大猿猿模型的變量
在這裏我們基於DaVinci 003來實例化
當然這個是一個測試用的
因此有興趣的同學可以將模型改一改
在這裏我們就用這個模型
接下來是曾經我們所使用過的ConversationBufferMemory
這個組件
我們沒有做任何配置
因此使用的是默認配置
在默認配置的情況下
聊天記錄不會被存儲到任何地方
聊天完程序執行完畢
這個Conversation這個鏈結束
進程退出
所有的聊天記錄就消失了
在這裏我們可以先來看看
這個Conversation這個繪畫鏈
它的Prompt模板是什麼樣
在這裏它就是根據
安全框架所提供的默認模板
來進行幫助我們
輔助我們完成與模型的交互
首先我們來簡單問一個問題
什麼是安全
在這裏
它會告訴我們一個答案
我們就快速的跳過回答的文字
在剛纔的代碼執行中會看到
人類我與模型之間交互
聊天記錄並沒有任何形式的存儲
它全部都存在內存中
程序退出
我關閉這個Notebook
退出運行環境的Runtime
一切都消失了
接下來我該如何持久化
我如何將這些聊天
類似記錄存到某處
在這裏我們就引入
在ChatMessageHistory這個包裝
FileChatMessageHistory這個類
它能夠幫助我們
實時的將聊天記錄
存儲到一個文件當中
文件當中怎麼用這個類
我們看看它的定義
可以看到構造函數中
它所支持的參數
在這裏我們可以看到
它支持的參數有一個FilePath
FilePath指定這個消息
存儲到每個文件當中
接下來我們就來構建一個實例
MessageHistory實例
FilePath指定爲Conversation
2023-0620
我以今天的日期爲名字
來記錄聊天曆史
當我們得到一個聊天曆史組件以後
就可以在構建BufferMemory
這個組件的實例時
將其傳遞給ChatMemory參數
將這個參數設置爲
我們剛纔構建的聊天曆史組件
這樣構建出來的記憶組件變量
就有了一個持續化存儲的接口
我們可以到這裏來運行一下
當我們完成了這兩步操作以後
就可以再來構建一次
ConversationChain
構建一個鏈
我們將剛纔這個記憶組件
作爲參數傳遞給ConversationChain
現在構建出來這個組件
就會實時的將我們的聊天
存儲到這個文檔當中
我們來調用一下
我來嘗試問他
ChattBitEnable
AwarenessConversation
我們關注的重點是最後這個文件
當然我們在剛纔執行的時候
並沒有
