41 第二講 - Chainlit實現PDF聊天機器人

学习与实践
173粉絲
4 次觀看·2023年11月5日
這是Chainlit入門系列的第二講。我們基於過去所學習的Langchain實現PDF聊天機器人的知識,在本次分享中,利用Chainlit再次構建相同功能。
Docs - Chainlit
https://docs.chainlit.io/overview
Langchain Tutorial - PDF聊天機器人
https://github.com/sugarforever/LangChain-Tutorials/blob/main/LangChain_PDF_Chatbot.ipynb
大家好,我是大木頭
上一期視頻我初次爲大家介紹了
藍泉生態中一款新的開發工具Chainlet
它能快速的構建LLM應用
有興趣的同學請點擊視頻上方鏈接
回看上一期的介紹視頻
也就是現在我所分享的這一個
在我頻道中最新的這期視頻
我計劃在近期分享一波入門系列視頻
來介紹Chainlet應用開發的方方面面
今天進入第二講
在瞭解了Chainlet的實力後
我們今天來學習如何利用Chainlet
實現AI應用領域非常經典的一個功能
也就是PDF聊天機器人
關於PDF聊天機器人
在過去的視頻分享中
我們已經分享了一系列基於不同工具的實現
比如基於LanChain和OpenAI實現的PDF聊天機器人
以及基於Chainlet加LanChain實現的端到端的
具有前端界面的一個聊天機器人的web應用
有興趣的同學可以在我頻道中搜索PDF
來回看關於這麼一個非常經典的
AI應用的實現的方方面面
話不多說,我們現在回到Chainlet文檔
在文檔中提供了一系列的示例
其中就包含了文檔QA這個功能
在這個功能當中我們會對它做一些改造
我們在後續馬上要分享到的代碼中
會看到哪些改造是必要的
來支持PDF聊天機器人這麼一個功能場景
先看文檔部分
Chainlet的文檔裏在文檔QA這個示例當中
爲我們實現了文檔上傳
向量數據的存儲
也就是文檔的向量化
以及embedding的存儲
最後是提供了一個聊天機器人的web應用
支持提問
查看回答
並能夠顯示每一個回答基於的信息源或者數據源
在這裏我們需要做一些必要的包裝
LanChain ChromaDB TickToken
ChromaDB是在這個示例當中用來做向量數據存儲的
TickToken是做這個
是在embedding階段是必要的
是對文本編碼用到的這個幫TickToken
我們今天所用的代碼倉庫
依然是在上一期視頻中引用過的Chainlet example
當然了我會將今天視頻中用到的所有的代碼倉庫鏈接
文檔鏈接等等
全部分享在視頻描述中
大家到描述中取用
在這裏我創建了一個新的python文件
pdf.qa.py
這就是今天這個應用的原代碼
如果我們回到文檔這裏可以來看一看
首先這裏要準備一個OpenAI的API Key
這是必然的
因爲我們會用到OpenAI的模型以及它的embedding接口
SERP API在這個示例當中其實並不需要
因此大家可以忽略它
剩下代碼非常完整
大家有興趣可以拷貝執行
關於如何運行一個Chainlet應用
在上期視頻中我們也有介紹
非常的簡單
我們將代碼拷貝到本地
在命令行只需要使用Chainlet role
帶上腳本的名稱
我們是運行的pdf.qa.py這個腳本
